Une équipe de chercheurs a mis au point une plateforme innovante, baptisée Cascade, qui permet d’exécuter des modèles d’intelligence artificielle de manière plus efficace, tout en réduisant considérablement les coûts et la consommation d’énergie.
Face à l’essor de l’intelligence artificielle, de nombreuses entreprises cherchent à exploiter de nouvelles capacités, mais sont préoccupées par les coûts informatiques associés et les risques liés au partage de données privées avec des entreprises d’IA ou à l’envoi d’informations sensibles dans le cloud. De plus, les modèles d’IA actuels sont lents, ce qui limite leur utilisation dans des contextes où les données doivent être transférées rapidement ou où le modèle contrôle un système automatisé.
Une équipe dirigée par Ken Birman, professeur d’informatique, a combiné plusieurs innovations pour répondre à ces préoccupations. Il s’est associé à Weijia Song, un chercheur associé senior, pour développer un système de calcul en bordure (edge computing) qu’ils ont nommé Cascade.
Qu’est-ce que Cascade ?
Le edge computing est une approche qui place le calcul et le stockage des données plus près des sources de données, protégeant ainsi les informations sensibles. Le design de «copie zéro» de Weijia Song minimise le mouvement des données. Ainsi, les modèles d’IA n’ont pas à attendre pour récupérer les données lorsqu’ils réagissent à un événement, ce qui permet des réponses plus rapides, ont déclaré les chercheurs.
« Cascade permet aux utilisateurs de placer l’apprentissage automatique et la fusion de données vraiment près du bord de l’internet, de sorte que les actions artificiellement intelligentes peuvent se produire instantanément », a expliqué Ken Birman. « Cela contraste avec les approches standard de cloud computing, où le mouvement fréquent de données d’une machine à une autre oblige ces mêmes IA à attendre, entraînant de longs délais perceptibles par l’utilisateur. »
Des résultats impressionnants
Cascade offre des résultats impressionnants, avec la plupart des programmes fonctionnant deux à dix fois plus rapidement que les applications basées sur le cloud, et certaines tâches de vision par ordinateur accélérées par des facteurs de 20 ou plus. Les modèles d’IA plus grands bénéficient le plus de cette approche.
De plus, l’approche est facile à utiliser : « Cascade ne nécessite souvent aucune modification du logiciel d’IA », a conclu Ken Birman. Avec la nouvelle version open-source, le groupe de Birman espère que d’autres chercheurs exploreront les utilisations possibles de Cascade, rendant les applications d’IA plus largement accessibles.
En synthèse
Cascade est une plateforme innovante qui optimise l’exécution des modèles d’IA, réduit les coûts et la consommation d’énergie, et accélère les réponses. Elle offre une solution aux défis actuels de l’IA et ouvre la voie à une utilisation plus large de l’IA dans divers domaines.
Pour une meilleure compréhension
Qu’est-ce que Cascade ?
Cascade est une plateforme développée par l’Université Cornell qui optimise l’exécution des modèles d’IA.
Qu’est-ce que le edge computing ?
Le edge computing est une approche qui place le calcul et le stockage des données plus près des sources de données, protégeant ainsi les informations sensibles.
Quels sont les avantages de Cascade ?
Cascade permet d’exécuter des modèles d’IA plus rapidement, de réduire les coûts et la consommation d’énergie, et de protéger les données sensibles.
Cascade est-il facile à utiliser ?
Oui, selon Ken Birman, Cascade ne nécessite souvent aucune modification du logiciel d’IA.
Qui a financé le développement de Cascade ?
Le développement de Cascade a été financé par le Air Force Research Laboratory, la National Science Foundation, la Norwegian Science Foundation, Microsoft, NVIDIA, Cisco et Siemens.
Références
Université Cornell. (2023). Cascade : une nouvelle plateforme pour optimiser l’IA.
