CUDA : Le logiciel, véritable moteur de la domination d’Nvidia en IA
La plateforme logicielle CUDA est le pilier de la domination d’Nvidia dans l’IA, créant une barrière concurrentielle plus forte que son matériel.
La plateforme logicielle CUDA est le pilier de la domination d’Nvidia dans l’IA, créant une barrière concurrentielle plus forte que son matériel.
Une équipe de LabLab AI a démontré la faisabilité de l’entraînement d’un modèle d’IA clinique, MedQA, sur l’architecture ROCm d’AMD, offrant une alternative concrète à l’écosystème CUDA de NVIDIA.
Nvidia n’a vendu aucun GPU H200 à la Chine, Pékin bloquant les importations pour soutenir son industrie locale.
Une nouvelle bibliothèque open source, easyaligner, a été lancée pour l’alignement forcé, offrant une accélération GPU et une normalisation textuelle flexible.
La demande d’IA dépasse la capacité de calcul, provoquant des pannes et une flambée des prix des GPU.
Kepler Communications lance le plus grand cluster de calcul en orbite avec 40 GPU, dont Sophia Space est le premier client.
Les coûts de transfert de données et la latence des stockages cloud freinent l’entraînement des IA sur GPU H100.
Un nouveau guide explique comment installer et utiliser des IA génératives sur son ordinateur personnel.
MegaTrain permet l’entraînement de modèles IA de plus de 100 milliards de paramètres sur un seul GPU.
Meta commande massivement des puces NVIDIA pour ses datacenters IA. Analyse de cette course a l’infrastructure et ses implications.