jeudi, juillet 31, 2025
  • Connexion
Enerzine.com
  • Accueil
  • Energie
    • Electricité
    • Marché Energie
    • Nucléaire
    • Pétrole
    • Gaz
    • Charbon
  • Renouvelable
    • Biogaz
    • Biomasse
    • Eolien
    • Géothermie
    • Hydro
    • Hydrogène
    • Solaire
  • Technologie
    • Batterie
    • Intelligence artificielle
    • Matériaux
    • Quantique
    • Recherche
    • Robotique
    • Autres
      • Chaleur
      • Communication
      • Fusion
      • Graphène
      • Impression
      • Industrie énergie
      • Industrie technologie
      • Laser
      • Nanotechnologie
      • Optique
  • Environnement
    • Carbone
    • Circulaire
    • Climat
    • Déchets
    • Durable
    • Risques
    • Santé
  • Mobilité
    • Aérien
    • Infrastructure
    • Logistique
    • Maritime
    • Spatial
    • Terrestre
  • Habitat
  • Insolite
  • GuideElectro
    • Sommaire
    • Maison
    • Chauffage
    • Bricolage
    • Jardin
    • Domotique
    • Autres
      • Isolations
      • Eclairage
      • Nomade
      • Loisir
      • Compostage
      • Médical
  • LaboFUN
    • Science
    • Lévitation
    • Globe
Aucun résultat
Voir tous les résultats
  • Accueil
  • Energie
    • Electricité
    • Marché Energie
    • Nucléaire
    • Pétrole
    • Gaz
    • Charbon
  • Renouvelable
    • Biogaz
    • Biomasse
    • Eolien
    • Géothermie
    • Hydro
    • Hydrogène
    • Solaire
  • Technologie
    • Batterie
    • Intelligence artificielle
    • Matériaux
    • Quantique
    • Recherche
    • Robotique
    • Autres
      • Chaleur
      • Communication
      • Fusion
      • Graphène
      • Impression
      • Industrie énergie
      • Industrie technologie
      • Laser
      • Nanotechnologie
      • Optique
  • Environnement
    • Carbone
    • Circulaire
    • Climat
    • Déchets
    • Durable
    • Risques
    • Santé
  • Mobilité
    • Aérien
    • Infrastructure
    • Logistique
    • Maritime
    • Spatial
    • Terrestre
  • Habitat
  • Insolite
  • GuideElectro
    • Sommaire
    • Maison
    • Chauffage
    • Bricolage
    • Jardin
    • Domotique
    • Autres
      • Isolations
      • Eclairage
      • Nomade
      • Loisir
      • Compostage
      • Médical
  • LaboFUN
    • Science
    • Lévitation
    • Globe
Aucun résultat
Voir tous les résultats
Enerzine.com
Aucun résultat
Voir tous les résultats
Jusqu'à 30 % de l'énergie utilisée pour former l'IA est gaspillée : voici comment y remédier

Jusqu’à 30 % de l’énergie utilisée pour former l’IA est gaspillée : voici comment y remédier

par Michigan Université (USA)
11 novembre 2024
en Intelligence artificielle, Technologie

Selon une nouvelle étude américaine, une méthode moins coûteuse pour former de grands modèles de langage, comme la série GPT, permet d’économiser jusqu’à 30 % d’énergie dans le même laps de temps.

Cette approche pourrait permettre d’économiser suffisamment d’énergie pour alimenter 1,1 million de foyers américains en 2026, sur la base des projections de Wells Fargo concernant la demande en énergie de l’IA. Elle pourrait également réduire les prévisions du Fonds monétaire international selon lesquelles les centres de données pourraient représenter 1,2 % des émissions mondiales de carbone d’ici à 2027, ainsi que les besoins en eau liés à cette consommation d’énergie.

Certains experts estiment que ces coûts pourraient être compensés par des avantages environnementaux. Selon eux, l’IA pourrait changer la donne dans la lutte contre le changement climatique en permettant d’optimiser les chaînes d’approvisionnement et le réseau électrique, de gérer nos besoins énergétiques et d’améliorer la recherche sur le changement climatique. Cela n’excuse pas pour autant le gaspillage d’énergie, et une partie de l’énergie utilisée pour entraîner l’IA n’a aucun impact sur le temps d’entraînement et la précision du modèle.

Mosharaf Chowdhury, professeur agrégé d’informatique et d’ingénierie à l’université de Michigan et auteur correspondant de l’étude présentée lors du 30e symposium sur les principes des systèmes d’exploitation, a déclaré : « Pourquoi dépenser quelque chose quand cela ne sert à rien ? »

« Nous ne pouvons pas continuer à construire des centres de données de plus en plus grands, car nous n’aurons pas l’énergie nécessaire pour les faire fonctionner. Si nous parvenons à réduire l’énergie consommée par l’IA, nous pourrons réduire son empreinte carbone et ses besoins en refroidissement et permettre davantage de calculs dans le cadre de nos contraintes énergétiques actuelles. »

Le gaspillage d’énergie se produit lorsque l’entraînement à l’IA est inégalement réparti entre les GPU, qui sont des processeurs informatiques spécialisés dans les applications graphiques et de données volumineuses. Bien qu’elle ouvre la porte au gaspillage, la répartition du travail est nécessaire pour traiter d’énormes ensembles de données.

Articles à explorer

Efficacité énergétique : Q.ANT vise des gains multipliés par 30 face aux GPU traditionnels

Efficacité énergétique : Q.ANT vise des gains multipliés par 30 face aux GPU traditionnels

26 juillet 2025
Une puce optique transmet des données d'entraînement à l'IA à une vitesse de 1 000 Gbit/s par seconde en consommant très peu d'énergie

Une puce optique transmet des données d’entraînement à l’IA à une vitesse de 1 000 Gbit/s en consommant très peu d’énergie

24 juillet 2025

« Les modèles d’IA sont aujourd’hui si volumineux qu’ils ne peuvent pas tenir dans un seul processeur », explique Jae-Won Chung, doctorant en informatique et ingénierie à l’université de Michigan et premier auteur de l’étude. « Ils doivent être divisés en dizaines de milliers de processeurs pour être entraînés, mais diviser les modèles en tailles parfaitement égales sur tous les processeurs est pratiquement impossible ».

S’il est si difficile de répartir uniformément les tâches de formation, c’est parce que certaines d’entre elles doivent être regroupées sur le même processeur, à l’instar de chaque épisode d’une série de livres dans une étagère organisée. Selon la manière dont les tâches sont regroupées, certains processeurs peuvent se voir confier l’équivalent de l’Encyclopédie Britannica pour la formation à l’IA, tandis que d’autres se verront confier une trilogie fantastique.

Étant donné que les méthodes de formation actuelles font fonctionner chaque processeur à sa vitesse maximale, les processeurs ayant une charge plus légère termineront leurs calculs avant les autres processeurs. Cela n’accélère pas la formation, qui n’est pas terminée tant que chaque processeur n’a pas fini son travail, mais c’est un gaspillage, car des calculs plus rapides nécessitent plus d’énergie. En outre, des problèmes tels qu’un matériel défectueux ou des retards de réseau entraînent un gaspillage d’énergie en ralentissant la vitesse de calcul d’un seul processeur.

Pour économiser de l’énergie, les chercheurs ont mis au point un outil logiciel, appelé Perseus, qui identifie un chemin critique, ou une série de sous-tâches qui prendront le plus de temps à réaliser. Perseus ralentit ensuite les processeurs qui ne sont pas sur le chemin critique afin qu’ils terminent tous leur travail à peu près en même temps, éliminant ainsi toute consommation d’énergie inutile.

« La réduction du coût énergétique de l’IA peut avoir d’importantes répercussions sur l’accès équitable à l’IA », a conclu M. Chowdhury. « Si un pays n’a pas assez d’énergie pour faire tourner un gros modèle, il devra peut-être faire appel à des services éloignés ou se contenter de modèles plus petits et moins précis. Cet écart pourrait perpétuer les disparités entre les différentes communautés ».

L’équipe a testé Perseus en entraînant GPT-3, trois autres grands modèles linguistiques et un modèle de vision par ordinateur.

Perseus est un outil en libre accès disponible dans le cadre de Zeus, un outil de mesure et d’optimisation de la consommation d’énergie de l’intelligence artificielle.

La recherche a été financée par la National Science Foundation, le Dutch Research Council (NWO) Talent Programme, VMware, Mozilla Foundation, Salesforce et Kwanjeong Educational Foundation. Chameleon Cloud et CloudLab ont soutenu la recherche en fournissant des ressources informatiques.

Légende illustration : Le Michigan Academic Computing Center (MACC) est un centre de données de 2 MW exploité par l’Université du Michigan. Il stocke des données provenant de différents départements et des calculs de haute performance pour la recherche sur l’intelligence artificielle. Crédit photo : Jae-Won Chung, SymbioticLab, Université du Michigan

Article : « Reducing Energy Bloat in Large Model Training » – abs/2312.06902

Source : Université du Michigan – Traduction Enerzine.com

Aller à l'essentiel en cliquant sur les boutons suivants :

  Résume: ChatGPT   Explore: Perplexity   Eclaire: Grok   Analyse: Claude AI
Partager l'article avec :
  WhatsApp   LinkedIn   Facebook   Telegram   Email
Tags: energieGPTgpuperseus
Article précédent

Des scientifiques capturent des images de cristaux de molécules d’électrons

Article suivant

L’or microscopique au service de la chirurgie : une méthode suédoise contre les infections

Michigan Université (USA)

Michigan Université (USA)

L'Université du Michigan (UMich), fondée en 1817, est l'une des institutions académiques les plus prestigieuses des États-Unis, située principalement à Ann Arbor avec des campus additionnels à Dearborn et Flint. Première université établie à l'ouest des Appalaches, elle a débuté à Detroit avant d'être transférée à Ann Arbor en 1837. L'université s'est considérablement développée au fil des années, accueillant aujourd'hui plus de 56 000 étudiants. Domaines de Recherche Clés L'université excelle particulièrement dans plusieurs domaines technologiques et scientifiques : - Intelligence artificielle et apprentissage automatique - Architecture des processeurs et technologies émergentes - Systèmes embarqués et mobiles - Robotique et systèmes autonomes[2] Initiatives Quantiques Un développement majeur récent est la création du Quantum Research Institute (QRI), qui réunit des experts en physique quantique, génie électrique, informatique et sciences des matériaux. Cette initiative s'inscrit dans le cadre du Chips and Science Act de 2022, visant à renforcer la recherche en semi-conducteurs et technologies quantiques. Infrastructure de Recherche L'université dispose d'importantes ressources, notamment dix-neuf bibliothèques contenant plus de 8,27 millions de volumes, soutenant activement la recherche et l'innovation. Le récent partenariat avec l'Institut de radioastronomie millimétrique démontre son engagement continu dans la recherche scientifique de pointe.

A lire également

Un simple filtre pour les éléments de terre rare garantira un approvisionnement domestique propre en ces métaux cruciaux
Matériaux

Un simple filtre pour les éléments de terre rare garantira un approvisionnement domestique propre en ces métaux cruciaux

il y a 18 heures
Une carte pour les catalyseurs à atome unique
Recherche

Une carte pour les catalyseurs à atome unique

il y a 19 heures
Des chercheurs capturent les mouvements des nanoparticules pour créer de nouveaux matériaux
Nanotechnologie

Des chercheurs capturent les mouvements des nanoparticules pour créer de nouveaux matériaux

il y a 20 heures
Première puce quantique électronique-photonique fabriquée dans une fonderie commerciale
Quantique

Première puce quantique électronique-photonique fabriquée dans une fonderie commerciale

il y a 22 heures
Améliorer la conception des puces à tous les niveaux
Industrie technologie

Améliorer la conception des puces à tous les niveaux

il y a 2 jours
Les batteries quantiques durent beaucoup plus longtemps que les démonstrations précédentes
Quantique

Les batteries quantiques durent beaucoup plus longtemps que les démonstrations précédentes

il y a 2 jours
Plus d'articles
Article suivant
L'or microscopique au service de la chirurgie : une méthode suédoise contre les infections

L'or microscopique au service de la chirurgie : une méthode suédoise contre les infections

Une nouvelle méthode de génie végétal promet d'améliorer considérablement le développement des biocarburants et des bioproduits

Une nouvelle méthode de génie végétal promet d'améliorer considérablement le développement des biocarburants et des bioproduits

Des microprojectiles supersoniques permettent de mieux comprendre la liaison des métaux

Des microprojectiles supersoniques permettent de mieux comprendre la liaison des métaux

Laisser un commentaire Annuler la réponse

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Bibliothèque photos préférée : Depositphotos.com
depositphotos
Enerzine est rémunéré pour les achats éligibles à la plateforme AMAZON

Articles récents

Les fuites de méthane des gazoducs sont une source cachée de pollution atmosphérique généralisée

Les fuites de méthane des gazoducs sont une source cachée de pollution atmosphérique généralisée

31 juillet 2025
Un simple filtre pour les éléments de terre rare garantira un approvisionnement domestique propre en ces métaux cruciaux

Un simple filtre pour les éléments de terre rare garantira un approvisionnement domestique propre en ces métaux cruciaux

30 juillet 2025
  • A propos
  • Newsletter
  • Publicité – Digital advertising
  • Mentions légales
  • Confidentialité
  • Contact

© 2025 Enerzine.com

Bienvenue !

Login to your account below

Forgotten Password?

Retrieve your password

Please enter your username or email address to reset your password.

Log In
Aucun résultat
Voir tous les résultats
  • Accueil
  • Energie
  • Renouvelable
  • Technologie
  • Environnement
  • Mobilité
  • Habitat
  • Insolite
  • Guide
  • Labo

© 2025 Enerzine.com