Qu'est-ce que le TinyML ?
Comprendre ce qu'est le TinyML : la différence entre un programme écrit et un modèle entraîné, l'entraînement et l'inférence, et les contraintes d'un microcontrôleur.
Pré-requis :
Pour qu’une console détecte un joystick poussé vers la droite, on écrit une règle : if (x > 2500). Mais comment écrire la règle qui reconnaît un cercle dessiné avec le joystick, un mot prononcé ou une machine qui commence à vibrer anormalement ? Les signaux varient d’une personne à l’autre, d’une fois à l’autre : aucune suite de if ne tient.
L’apprentissage automatique (machine learning) prend le problème à l’envers : au lieu d’écrire la règle, on montre au programme des exemples étiquetés (« ceci est un cercle », « ceci est un va-et-vient »), et un algorithme en déduit lui-même un modèle capable de classer de nouveaux exemples.
Le TinyML (tiny machine learning), c’est faire tourner ce modèle sur un microcontrôleur : quelques centaines de kilo-octets de mémoire, quelques milliwatts, et aucune connexion à Internet.
| Programme écrit | Modèle entraîné | |
|---|---|---|
| Qui fixe la règle ? | Le développeur, ligne par ligne | Un algorithme, à partir d’exemples |
| Ce qu’il faut fournir | Du code | Des données étiquetées |
| Quand c’est le bon choix | La règle est simple et connue | La règle est floue ou trop complexe à écrire |
| Comment on le vérifie | On relit le code | On mesure le taux de bonnes réponses sur des exemples jamais vus |
Les deux se combinent : un modèle reconnaît le geste, du code ordinaire décide quoi en faire (allumer une LED, envoyer un message).
Un modèle vit deux moments très différents :
flowchart LR
A["1. Collecter<br/>des données"] --> B["2. Entraîner<br/>le modèle"]
B --> C["3. Réduire<br/>le modèle"]
C --> D["4. Déployer<br/>sur la carte"]
D --> E["5. Inférer<br/>en continu"]
subgraph PC["Sur l'ordinateur"]
B
C
end
subgraph MCU["Sur le microcontrôleur"]
A
D
E
end
Un modèle doit tenir dans la mémoire de la carte et répondre assez vite :
| Ordinateur portable | XIAO ESP32S3 | |
|---|---|---|
| Mémoire vive | 8 à 32 Go | 512 Ko (et 8 Mo de PSRAM externe) |
| Stockage du programme | des centaines de Go | 8 Mo de Flash |
| Processeur | plusieurs GHz, plusieurs cœurs | 240 MHz, 2 cœurs |
| Consommation | des dizaines de watts | quelques centaines de milliwatts en calcul |
Pour y entrer, le modèle est quantifié : ses paramètres, calculés en nombres à virgule sur 32 bits (float), sont convertis en entiers sur 8 bits (int8). Le modèle devient environ quatre fois plus petit et plus rapide, au prix d’une légère perte de précision, qu’on mesure.
Le TinyML ne remplace pas un grand modèle de langage ou de vision. Il excelle sur des tâches ciblées, avec peu de classes : reconnaître quelques gestes, un mot-clé, un son anormal, une posture.
Envoyer chaque mesure à un serveur pour qu’il la classe est possible, mais :
| Application | Capteur | Ce que le modèle reconnaît |
|---|---|---|
| Assistant vocal | Micro | Le mot qui réveille l’appareil (« Ok… ») |
| Montre connectée | Accéléromètre | Une chute, un type d’activité |
| Maintenance d’une machine | Accéléromètre, micro | Une vibration anormale, avant la panne |
| Agriculture | Caméra | Une feuille malade, un insecte |
1. Quelle étape se fait sur l’ordinateur, et laquelle sur le microcontrôleur ?
2. Que gagne-t-on à quantifier un modèle en int8 ?
3. Donnez une raison de classer les données sur la carte plutôt que dans le cloud.
