LFM2.5-DSpark : l’inférence IA accélérée jusqu’à 3,2 fois
Les modèles LFM2.5-DSpark de LiquidAI permettent une inférence jusqu’à 3,2 fois plus rapide, offrant une efficacité accrue pour les grands modèles de langage.
Optimisation
NVIDIA adopte ChatGPT Work pour optimiser ses opérations internes
NVIDIA intègre ChatGPT Work afin de réduire les tâches manuelles, de connecter rapidement les signaux et de déployer des flux de travail efficaces à l’échelle mondiale.
L’ordre des tâches GPU améliore l’utilisation des clusters de 33 points
Dharma AI a démontré qu’une simple réorganisation de l’ordonnancement des tâches peut augmenter l’utilisation des GPU de 33 points de pourcentage.
Kog défie les idées reçues sur l’inférence GPU pour l’IA agentique
La startup française Kog conteste la perception que les GPU sont inadaptés aux flux de travail agentiques, affirmant pouvoir optimiser leur inférence.
Rippling lance un outil pour suivre les dépenses IA des employés
Après avoir dépensé des millions en IA, Rippling lance l’AI Spend Console pour permettre aux entreprises de suivre et d’optimiser les dépenses d’IA de leurs employés.
Databricks réduit de 70 % les coûts de développement de code IA
Databricks a annoncé avoir diminué de 70 % ses dépenses liées au développement de code d’intelligence artificielle grâce à l’optimisation de ses workflows.
ARPL optimise llama.cpp sur ARM en détectant le matériel
Un nouvel outil, ARPL, améliore les performances de llama.cpp sur les smartphones ARM en adaptant dynamiquement le logiciel aux spécificités matérielles de la puce.
La gestion des GPU : un enjeu majeur pour l’efficacité de l’IA
L’inactivité des unités de traitement graphique (GPU) représente un coût financier et une perte de ressources considérables pour les entreprises développant des modèles d’intelligence artificielle.
LinkedIn gèle l’expansion de ses centres de données malgré le boom de l’IA
Malgré le boom de l’IA, LinkedIn gèle l’expansion de ses centres de données pour l’année à venir, misant sur l’optimisation des GPU par ses ingénieurs.
Implémentation de YOLO26n en assembleur ARM64 pour l’IA embarquée
Un étudiant a implémenté l’inférence du modèle YOLO26n entièrement à partir de zéro en utilisant le langage assembleur ARM64 et C, sans frameworks.