En bref
Exécutez sur l'appareil les tâches petites, fréquentes, privées ou sensibles à la latence, et envoyez à un service cloud efficace les tâches lourdes ou occasionnelles qui exigent de grands modèles. Certaines études constatent de fortes économies d'énergie sur l'appareil avec des modèles adaptés, mais des centres de données bien gérés sont difficiles à battre : mesurez donc votre propre cas lorsque c'est possible.
Étapes
- Listez les besoins de la tâche: taille du modèle, fréquence d'exécution, confidentialité, et nécessité de fonctionner hors ligne.
- Privilégiez l'appareil pour les petits modèles, l'usage fréquent, les données privées et les besoins hors ligne.
- Privilégiez le cloud pour les grands modèles, les tâches lourdes occasionnelles et le travail qui peut être traité par lots.
- Comparez l'énergie par tâche des deux options, réseau compris, lorsque vous pouvez la mesurer.
- Tenez compte de l'autonomie de la batterie et de l'âge du matériel dans le coût de l'appareil.
Petit et fréquent convient à l'appareil ; gros et occasionnel convient au cloud. Aucune des deux options n'est plus verte dans tous les cas. La réponse dépend du modèle, de sa fréquence d'exécution et de l'efficacité de chaque côté.
Que disent les preuves ?
Elles sont contrastées. Li, Islam et Ren ont constaté une empreinte réduite pour le déploiement embarqué de plusieurs modèles génératifs, avec des économies d'énergie de plus de 90 % lors de tests sur un téléphone récent. Mais leur référence cloud n'était pas un service de production entièrement optimisé, et des serveurs bien alimentés en lots dans un centre de données efficace sont plus difficiles à battre. Un « sandpit » britannique sur l'IA verte organisé en 2026, réunissant mathématiciens, informaticiens et industriels, a classé l'effet énergétique net d'une IA répartie sur des millions d'appareils parmi les questions ouvertes.
Comment choisir ?
| En faveur de l'appareil | En faveur du cloud |
|---|---|
| Petit modèle, comme le modèle embarqué d'Apple d'environ trois milliards de paramètres | Grand modèle qui ne tient pas en local |
| S'exécute souvent, par exemple sur chaque photo ou chaque frappe au clavier | S'exécute occasionnellement |
| Données privées ou sensibles | Travail qui peut être traité par lots ou planifié |
| Doit fonctionner hors ligne ou instantanément | Nécessite le modèle le plus récent et le plus performant |
La Green Software Foundation range l'exécution des modèles d'IA en périphérie (edge) parmi ses patterns de logiciel vert, comme une option pour les modèles adaptés plutôt qu'une règle.
Erreurs fréquentes
- Supposer que le local est gratuit. Il consomme votre batterie et peut vous pousser vers du matériel neuf.
- Ignorer le réseau. Envoyer de gros fichiers vers le cloud a aussi un coût.
- Faire tourner un modèle trop gros pour l'appareil, qui devient lent et vide la batterie.
Pour un guide de décision plus complet, consultez appareil ou cloud et l'IA en périphérie.
Sources
- A case study of environmental footprints for generative AI inference: cloud versus edge, Li, Islam and Ren, ACM SIGMETRICS Performance Evaluation Review (2025)
- Apple Intelligence Foundation Language Models: Tech Report 2025, Apple (2025)
- Green Software Patterns: run AI models at the edge, Green Software Foundation (2025)
Voir aussi
Périphérie ou cloud : où faire tourner l'IA ?
Comparer l'IA embarquée ou en périphérie aux centres de données : énergie, réseau, matériel, vie privée et résilience, avec une méthode de décision pas à pas.
L'IA en périphérie : plus verte, ou simplement moins visible ?
L'IA embarquée et en périphérie peut économiser l'énergie des réseaux et des centres de données, mais disperse le calcul sur des milliards d'appareils non mesurés.
Comment faire tourner un modèle d'IA en local ?
Comment exécuter un modèle d'IA ouvert sur votre ordinateur ou votre serveur avec Ollama ou llama.cpp, choisir un modèle quantifié adapté et mesurer son énergie.
Comment rendre un modèle assez petit pour un appareil embarqué ?
Réduisez un modèle pour les téléphones, capteurs et cartes embarquées : partez petit, distillez, quantifiez et élaguez, puis testez précision et énergie sur l'appareil réel.