NVIDIA a dévoilé une innovation qui pourrait transformer la manière dont vous abordez le développement de l’intelligence artificielle (IA). Baptisé « Project DIGITS », ce nouveau supercalculateur personnel d’IA est conçu pour apporter la puissance des centres de données directement sur votre bureau. Les chercheurs en IA, les scientifiques des données et les étudiants du monde entier pourront désormais accéder à des performances de calcul inégalées, sans les coûts exorbitants et les infrastructures massives traditionnellement associées à ce type de technologie.
Le « Project DIGITS » intègre la nouvelle puce GB10 Grace Blackwell Superchip de NVIDIA, offrant un petaflop de performance de calcul d’IA pour le prototypage, l’affinage et l’exécution de grands modèles d’IA. Avec ce projet, les utilisateurs peuvent développer et exécuter des inférences sur des modèles utilisant leur propre système de bureau, avant de les déployer sans heurt sur des infrastructures de cloud accéléré ou de centres de données.
« L’IA deviendra courante dans toutes les applications de toutes les industries. Grâce à Project DIGITS, la puce Grace Blackwell Superchip sera accessible à des millions de développeurs », a indiqué Jensen Huang, fondateur et PDG de NVIDIA. Il a ajouté que placer un superordinateur d’IA sur le bureau de chaque scientifique des données, chercheur en IA et étudiant permet de les impliquer activement dans l’évolution de l’IA.
Les performances et l’efficacité du GB10 Superchip
La puce GB10 Superchip, composant central de Project DIGITS, repose sur l’architecture Grace Blackwell de NVIDIA et fournit jusqu’à un petaflop de performance d’IA en précision FP4. Elle est conçue pour offrir une efficacité énergétique remarquable.
Le GB10 inclut un GPU Blackwell de NVIDIA avec des cœurs CUDA de dernière génération et des cœurs Tensor de cinquième génération, connectés via l’interconnexion chip-to-chip NVLink-C2C à un CPU Grace de haute performance avec 20 cœurs éconergétiques construits sur architecture Arm. MediaTek, leader dans la conception de SoC basés sur Arm, a collaboré sur le design du GB10, contribuant à une efficacité, une performance et une connectivité de premier ordre.
Grâce à cette configuration, Project DIGITS peut délivrer des performances puissantes en utilisant uniquement une prise électrique standard. Chaque unité est dotée de 128 Go de mémoire unifiée et cohérente et jusqu’à 4 To de stockage NVMe, permettant aux développeurs d’exécuter des modèles de langage de grande taille allant jusqu’à 200 milliards de paramètres pour stimuler l’innovation en IA. De plus, en utilisant la technologie de mise en réseau NVIDIA ConnectX, deux superordinateurs Project DIGITS peuvent être connectés pour gérer jusqu’à 405 milliards de paramètres.
Une démocratisation de l’IA grâce à Grace Blackwell
Les entreprises et les chercheurs ont la capacité de prototyper, d’affiner et de tester des modèles sur des systèmes Project DIGITS locaux fonctionnant sous Linux avec le système d’exploitation NVIDIA DGX OS, puis de les déployer facilement sur NVIDIA DGX Cloud, des instances de cloud accéléré ou des infrastructures de centres de données. Cette approche permet aux développeurs de prototyper l’IA sur Project DIGITS avant de passer à une échelle plus grande sur des infrastructures de cloud ou de centres de données, tout en utilisant la même architecture « Grace Blackwell » et la plateforme logicielle NVIDIA AI Enterprise.
Les utilisateurs de Project DIGITS ont accès à une bibliothèque étendue de logiciels NVIDIA pour l’expérimentation et la prototypation, incluant des kits de développement logiciel, des outils d’orchestration, des frameworks et des modèles disponibles dans le catalogue NVIDIA NGC et sur le portail des développeurs NVIDIA. Ils peuvent ajuster les modèles avec le framework NVIDIA NeMo, accélérer la science des données avec les bibliothèques NVIDIA RAPIDS et exécuter des frameworks communs comme PyTorch, Python et Jupyter notebooks.
Pour développer des applications d’IA autonomes, les utilisateurs ont également la possibilité d’utiliser les NVIDIA Blueprints et les microservices NVIDIA NIM, disponibles pour la recherche, le développement et les tests via le programme des développeurs NVIDIA. Lorsque les applications d’IA sont prêtes pour passer de l’expérimentation à la production, la licence NVIDIA AI Enterprise leur garantit une sécurité, un support et des mises à jour de produits de niveau entreprise pour les logiciels d’IA de NVIDIA.
Le Project DIGITS sera disponible à partir de mai chez NVIDIA et ses partenaires principaux, avec un prix de départ à 3000 dollars.
Source : CP / Nvidia
