Constrained deep learning for MEMS sensors-based applications - Inria - Institut national de recherche en sciences et technologies du numérique Access content directly
Theses Year : 2023

Constrained deep learning for MEMS sensors-based applications

Deep Learning contraint pour la résolution de problèmes algorithmiques appliqués aux capteurs MEMS (Microsystème Electromécanique)

Abstract

Deep learning has become a powerful technique for solving complex problems across numerous domains, owing to its ability to learn and model intricate non-linear relationships from data. However, the substantial computational power, memory, and energy requirements of deep learning models make them unsuitable for deployment on devices with limited resources. Simultaneously, the emergence of microelectromechanical sensors (MEMS), microcontroller units (MCUs), and the Internet of Things (IoT) has resulted in a growing number of applications that depend on embedded systems for local data processing and environmental interaction.The intersection of deep learning and embedded systems has given rise to the field of tinyML, which offers significant opportunities and challenges. The primary challenge lies in adapting deep learning techniques to operate efficiently on ultra-low-power MEMS-based devices with constrained resources and operations while maintaining acceptable performance levels.This thesis aims to provide strategies for optimizing and deploying deep learning models in ultra-low power settings for MEMS-based applications. We first investigate model compression methods, such as pruning, knowledge distillation, and quantization. Then, we enable end-to-end deployment of deep learning models for efficient inference on the most resource-constrained MCUs in the industry. Finally, we present a novel approach to generalize the quantization process, accommodating any number of bits, and extending to extreme quantization levels, such as 1-bit.The outcomes of this research contribute to the advancement of tinyML and enable the broader adoption of intelligent sensing devices across various real-world applications.
L'apprentissage profond est devenu une technique puissante pour résoudre des problèmes complexes dans de nombreux domaines, grâce à sa capacité à apprendre et à modéliser des relations non linéaires complexes à partir de données. Cependant, la puissance de calcul, la mémoire et les besoins énergétiques substantiels des modèles d'apprentissage profond les rendent inadaptés au déploiement sur des systèmes à ressources limitées. Parallèlement, l'émergence des capteurs microélectromécaniques (MEMS), des microcontrôleurs (MCUs) et de l'Internet des objets (IoT) a entraîné un nombre croissant d'applications qui dépendent de systèmes embarqués pour le traitement local des données et pouvant interagir avec l'environnement.L'intersection de l'apprentissage profond et des systèmes embarqués a donné naissance au domaine du tinyML, qui offre à la fois des opportunités et des défis significatifs. Le principal défi consiste à adapter les techniques d'apprentissage profond pour fonctionner efficacement sur des systèmes MEMS ultra basse consommation avec des ressources et des opérations limitées, tout en maintenant des niveaux de performance acceptables.Cette thèse vise à fournir des stratégies pour optimiser et déployer des modèles d'apprentissage profond dans des contextes ultra basse consommation pour des applications basées sur des MEMS. Nous étudions d'abord les méthodes de compression de modèles, telles que l'élagage, la distillation de connaissance et la quantification. Ensuite, nous permettons le déploiement de bout en bout de modèles d'apprentissage profond pour une inférence efficace sur les MCUs les plus limitées en ressources de l'industrie. Enfin, nous présentons une nouvelle approche pour généraliser le processus de quantification, compatible avec n'importe quel nombre de bits et en s'étendant à des niveaux de quantification extrêmes, tels que 1 bit.Les résultats de cette recherche contribuent à l'avancement du domaine tinyML et permettent une adoption plus large des systèmes de détection intelligents embarqués dans diverses applications du monde réel.
Fichier principal
Vignette du fichier
LE_2023_archivage.pdf (1.68 Mo) Télécharger le fichier
Origin Version validated by the jury (STAR)

Dates and versions

tel-04363136 , version 1 (23-12-2023)
tel-04363136 , version 2 (08-01-2024)

Identifiers

  • HAL Id : tel-04363136 , version 2

Cite

Minh Tri Lê. Constrained deep learning for MEMS sensors-based applications. Machine Learning [cs.LG]. Université Grenoble Alpes [2020-..], 2023. English. ⟨NNT : 2023GRALM035⟩. ⟨tel-04363136v2⟩
122 View
71 Download

Share

Gmail Mastodon Facebook X LinkedIn More