Alors que l’ère des agents d’IA des systèmes capables de raisonner et d’agir de manière autonome commence, la consommation électrique des centres de données émerge comme un défi critique. Une équipe de recherche de KAIST a, pour la première fois, analysé le coût de calcul et la consommation d’énergie des agents d’IA, constatant qu’ils peuvent consommer jusqu’à 136,5 fois plus d’énergie par requête que l’IA générative conventionnelle. L’étude montre que la compétitivité à l’ère de l’IA dépasse désormais la performance des modèles pour inclure l’efficacité des centres de données et des infrastructures électriques.
KAIST a annoncé qu’une équipe de recherche dirigée par le professeur Minsoo Rhu de l’École d’ingénierie électrique a systématiquement analysé, pour la première fois, la quantité de ressources informatiques et d’énergie que les agents d’IA nécessitent dans des environnements de service réels.
Les applications basées sur les grands modèles de langage (LLM) comme ChatGPT ont rapidement évolué au-delà de la simple réponse aux questions. Elles se transforment désormais en agents d’IA : des systèmes d’IA de nouvelle génération capables de planifier, d’utiliser des outils externes tels que la recherche web, les calculatrices et les environnements d’exécution de code, et de résoudre des tâches complexes en coordonnant plusieurs étapes de manière autonome.
Bien que les agents d’IA soient de plus en plus adoptés dans des domaines tels que le développement logiciel, la recherche et l’automatisation des tâches de bureau, on savait peu de choses sur la quantité d’électricité et le coût opérationnel nécessaires pour les faire fonctionner en pratique.
L’équipe de recherche a défini les agents d’IA non pas simplement comme des logiciels, mais comme un nouveau type de charge de travail qui doit être traité en continu par les serveurs des centres de données et les unités de traitement graphique (GPU) — des puces haute performance utilisées pour les calculs d’IA à grande échelle. L’équipe a ensuite analysé la charge de calcul et la consommation d’énergie encourues lors de l’exécution réelle des agents d’IA.
L’analyse a révélé que les agents d’IA effectuent beaucoup plus d’appels de LLM que le raisonnement classique en chaîne de pensée (chain-of-thought, CoT). Le CoT désigne une méthode dans laquelle un modèle d’IA décompose son processus de raisonnement étape par étape pour parvenir à une réponse, tandis qu’un appel LLM correspond à chaque requête de calcul envoyée à un modèle de langage pour générer un nouveau jugement ou une nouvelle réponse.
Comme les agents d’IA appellent les modèles de langage de manière répétée lors de l’exécution, leur latence de réponse augmente également de manière significative. L’équipe a constaté que le temps de réponse peut augmenter jusqu’à 153,7 fois, tandis que les GPU restent inactifs jusqu’à 54,5 % du temps total d’exécution pendant que les outils externes effectuent leurs tâches. En d’autres termes, à mesure que les systèmes d’IA prennent en charge des tâches plus complexes, une nouvelle forme d’inefficacité apparaît dans laquelle les GPU coûteux ne peuvent pas être pleinement utilisés.
L’équipe de recherche a également analysé la consommation électrique des agents d’IA à l’échelle des centres de données. Un agent d’IA utilisant un LLM de 70 milliards de paramètres — une échelle comparable aux services d’IA commerciaux actuels — a consommé en moyenne 348,41 wattheures par requête. Cela représente 136,5 fois plus d’énergie que celle consommée par un système d’IA générative conventionnel effectuant une simple réponse à une question.
De plus, l’équipe a projeté un scénario futur dans lequel 13,7 milliards de requêtes d’agents d’IA seraient générées par jour — un volume équivalent au trafic actuel de recherche Google. Dans ce scénario, la demande électrique des centres de données atteindrait environ 198,9 gigawatts, un niveau dépassant largement l’échelle des centres de données d’IA actuellement en développement (de l’ordre de quelques gigawatts) et équivalant à environ la moitié de la consommation électrique moyenne des États-Unis.
Cette étude démontre que le centre de la compétition à l’ère de l’IA se déplace d’une « IA plus intelligente » vers une « IA plus efficace ». À l’avenir, il sera essentiel non seulement de faire progresser les modèles d’IA, mais aussi d’optimiser conjointement les semi-conducteurs d’IA, les centres de données et les infrastructures électriques grâce à une co-conception. Une telle approche devrait devenir une stratégie clé pour réduire le coût opérationnel des services d’IA et construire une infrastructure d’IA durable.
« Cette étude est la première à montrer quantitativement non seulement comment l’IA devient plus intelligente, mais aussi combien d’électricité et de coût sont nécessaires pour implémenter et maintenir cette intelligence », a déclaré le professeur Rhu. « À mesure que les agents d’IA se généraliseront, il deviendra de plus en plus important d’adopter une approche de co-conception intégrée qui optimise non seulement l’infrastructure des centres de données d’IA, mais aussi les modèles d’agents d’IA et l’infrastructure électrique. » Il a ajouté : « La recherche et l’investissement dans cette direction seront essentiels pour réduire considérablement le coût pour les utilisateurs finaux d’accéder aux services d’IA tout en construisant une infrastructure d’IA durable. »
L’étude a été menée avec Jiin Kim, doctorant à l’École d’ingénierie électrique de KAIST, comme premier auteur. L’article a été présenté en février lors du 32e Symposium international IEEE sur l’architecture des ordinateurs haute performance (HPCA), l’une des conférences internationales les plus prestigieuses en conception de systèmes informatiques. L’équipe de recherche a également publié les implémentations d’agents d’IA et les bancs d’essai utilisés dans l’article en open source pour soutenir les études de suivi des chercheurs du monde entier.
Article : The Cost of Dynamic Reasoning: Demystifying AI Agents and Test-Time Scaling from an AI Infrastructure Perspective – DOI : Lien vers l’étude
Source : KAIST
