l9gpu : une solution open-source pour l’observabilité des GPU par charge de travail
l9gpu, une solution open-source, améliore l’observabilité des GPU en attribuant les métriques aux charges de travail spécifiques.
GPU
OpenAI sécurise la puissance de calcul IA pour les entreprises
OpenAI propose aux entreprises de réserver sa puissance de calcul IA sur plusieurs années, face à la pénurie de GPU.
Un outil simplifie l’installation des frameworks IA sur GPU cloud
Un nouvel outil nommé `swm` a été développé pour simplifier l’installation et la gestion des frameworks d’IA comme ComfyUI, Ollama et OpenWebUI sur des GPU cloud.
Un compilateur « hackable » pour GPU optimise les modèles d’IA
Un nouveau compilateur « hackable » pour modèles d’IA a été développé, promettant des gains de performance significatifs sur GPU face aux solutions existantes comme PyTorch.
CUDA : Le logiciel, véritable moteur de la domination d’Nvidia en IA
La plateforme logicielle CUDA est le pilier de la domination d’Nvidia dans l’IA, créant une barrière concurrentielle plus forte que son matériel.
MedQA entraîné sur AMD ROCm : une alternative à CUDA se confirme
Une équipe de LabLab AI a démontré la faisabilité de l’entraînement d’un modèle d’IA clinique, MedQA, sur l’architecture ROCm d’AMD, offrant une alternative concrète à l’écosystème CUDA de NVIDIA.
Nvidia : aucune vente de GPU H200 à la Chine, Pékin bloque les importations
Nvidia n’a vendu aucun GPU H200 à la Chine, Pékin bloquant les importations pour soutenir son industrie locale.
easyaligner : Une bibliothèque d’alignement forcé accélérée par GPU
Une nouvelle bibliothèque open source, easyaligner, a été lancée pour l’alignement forcé, offrant une accélération GPU et une normalisation textuelle flexible.
L’industrie de l’IA confrontée à une pénurie de puissance de calcul
La demande d’IA dépasse la capacité de calcul, provoquant des pannes et une flambée des prix des GPU.
Kepler déploie le plus grand cluster de calcul en orbite
Kepler Communications lance le plus grand cluster de calcul en orbite avec 40 GPU, dont Sophia Space est le premier client.