Applications de l’apprentissage profond à la conception de systèmes de communication sans fil améliorés - Inria - Institut national de recherche en sciences et technologies du numérique Access content directly
Theses Year : 2022

Applications of deep learning to the design of enhanced wireless communication systems

Applications de l’apprentissage profond à la conception de systèmes de communication sans fil améliorés

Abstract

Innovation in the physical layer of communication systems has traditionally been achieved by breaking down the transceivers into sets of processing blocks, each optimized independently based on mathematical models. This approach is now challenged by the ever-growing demand for wireless connectivity and the increasingly diverse set of devices and use-cases. Conversely, deep learning (DL)-based systems are able to handle increasingly complex tasks for which no tractable models are available. By learning from the data, these systems could be trained to embrace the undesired effects of practical hardware and channels instead of trying to cancel them. This thesis aims at comparing different approaches to unlock the full potential of DL in the physical layer. First, we describe a neural network (NN)-based block strategy, where an NN is optimized to replace one or multiple block(s) in a communication system. We apply this strategy to introduce a multi-user multiple-input multiple-output (MU-MIMO) detector that builds on top of an existing DL-based architecture. The key motivation is to replace the need for retraining on each new channel realization by a hypernetwork that generates optimized sets of parameters for the underlying DL detector. Second, we detail an end-to-end strategy, in which the transmitter and receiver are modeled as NNs that are jointly trained to maximize an achievable information rate. This approach allows for deeper optimizations, as illustrated with the design of waveforms that achieve high throughputs while satisfying peak-to-average power ratio (PAPR) and adjacent channel leakage ratio (ACLR) constraints. Lastly, we propose a hybrid strategy, where multiple DL components are inserted into a traditional architecture but trained to optimize the end-to-end performance. To demonstrate its benefits, we propose a DL-enhanced MU-MIMO receiver that both enable lower bit error rates (BERs) compared to a conventional receiver and remains scalable to any number of users. Each approach has its own strengths and shortcomings. While the first one is the easiest to implement, its individual block optimization does not ensure the overall system optimality. On the other hand, systems designed with the second approach are computationally complex and do not comply with current standards, but allow the emergence of new opportunities such as high-dimensional constellations and pilotless transmissions. Finally, even if the block-based architecture of the third approach prevents deeper optimizations, the combined flexibility and end-to-end performance gains motivate its use for short-term practical implementations
L'innovation dans la couche physique a traditionnellement été réalisée en modélisant les émetteurs-récepteurs comme une suite de blocs, chacun étant optimisé indépendamment sur la base de modèles mathématiques. À l'inverse, les systèmes basés sur l'apprentissage machine (machine learning, ML) sont capables de traiter des tâches pour lesquelles aucun modèle n'est disponible. Cette thèse vise à comparer différentes approches pour libérer le plein potentiel du ML dans la couche physique. Tout d'abord, nous décrivons une stratégie de bloc basée sur un réseau de neurones (neural network, NN), où un NN est optimisé pour remplacer un ou plusieurs blocs consécutifs dans un système de communication. Nous appliquons cette stratégie pour introduire un nouveau détecteur MU-MIMO. L'idée est d’utiliser un hyper-réseau pour générer des paramètres optimisés pour un détecteur sous-jacent basé sur le ML. Deuxièmement, nous présentons la stratégie de bout en bout, dans laquelle les émetteurs-récepteurs sont modélisés comme des NNs qui sont entraînés conjointement pour maximiser un taux d'information réalisable. Cette approche permet des optimisations plus profondes, comme l'illustre la conception de formes d'onde qui atteignent des débits élevés tout en satisfaisant des contraintes sur le signal et son spectre. Enfin, nous proposons une stratégie hybride, où plusieurs composants ML sont insérés dans une architecture traditionnelle mais entraînés pour optimiser les performances de bout en bout. Pour démontrer ses avantages, nous détaillons un récepteur MU-MIMO amélioré par ML qui permet de réduire les taux d'erreur binaire par rapport à un récepteur classique tout en restant conforme aux standards. Bien que chaque approche ait ses propres forces et ses faiblesses, nous pensons que la flexibilité et la complexité contenue de cette architecture hybride motive son utilisation pour des implémentations à court terme.
Fichier principal
Vignette du fichier
these.pdf (20.25 Mo) Télécharger le fichier
Origin : Version validated by the jury (STAR)

Dates and versions

tel-03783228 , version 1 (22-09-2022)

Identifiers

  • HAL Id : tel-03783228 , version 1

Cite

Mathieu Goutay. Applications de l’apprentissage profond à la conception de systèmes de communication sans fil améliorés. Traitement du signal et de l'image [eess.SP]. Université de Lyon, 2022. Français. ⟨NNT : 2022LYSEI002⟩. ⟨tel-03783228⟩
129 View
51 Download

Share

Gmail Facebook X LinkedIn More