DGX Spark : Nvidia veut mettre un supercalculateur IA sur chaque bureau

Nvidia s'apprête à lancer le DGX Spark, un nouvel appareil présenté comme un "supercalculateur IA personnel".

Une tendance vers l'IA locale, capable de fonctionner directement sur les appareils des utilisateurs, se développe. Cela permet de réduire la dépendance au cloud, diminuer les coûts, améliorer la rapidité et l'autonomie des applications, et renforcer la confidentialité des données.

Tous les grands noms de l'industrie, tels qu'OpenAI, Google, Meta, Anthropic, et Mistral, développent des modèles plus légers et efficients. Cependant, les capacités matérielles actuelles peinent encore à suivre les avancées logicielles.

Il y a quelques années, les smartphones et ordinateurs grand public n'étaient pas adaptés pour le traitement des grands réseaux de neurones artificiels, en raison de la charge de travail excessive pour les CPU conventionnels. Depuis, des avancées ont été faites, mais les implémentations restent limitées comparées aux équipements spécialisés.

Nvidia répond à cette évolution avec le DGX Spark, un appareil intermédiaire entre le matériel grand public et les data centers. Le Spark est une version miniaturisée des plateformes DGX, conçues pour offrir une puissance de calcul massive aux entreprises.

Le DGX Spark est équipé d'un processeur ARM à 20 cœurs, d'un GPU Blackwell avec cœurs Tensor de 5ᵉ génération, de 128 Go de mémoire unifiée LPDDR5x, d'un SSD NVMe M.2 avec chiffrement automatique, et de connectiques ultra-rapides. Il peut délivrer jusqu'à 1 pétaflop de performances en IA, capable de gérer des modèles comptant jusqu'à 200 milliards de paramètres.

Bien qu'il ne puisse pas encore exécuter les plus grands modèles de langage, le Spark est capable de traiter des modèles plus lourds que tout autre appareil grand public, à un prix d'environ 3 000 $. Ce tarif est compétitif par rapport aux GPU professionnels.

En conclusion, le DGX Spark pourrait devenir un outil essentiel pour les chercheurs, ingénieurs et étudiants en IA.

D’après Journal du Geek.