La startup française ZML a lancé ZML/LLMD, un logiciel gratuit conçu pour accélérer l’inférence des modèles d’IA sur de multiples puces, promettant une réduction des coûts opérationnels.
ZML, une jeune pousse française reconnue dans le domaine de l’intelligence artificielle et soutenue par Yann LeCun, lauréat du prix Turing, a récemment mis à disposition son nouveau produit. Nommé ZML/LLMD, ce logiciel est proposé gratuitement, marquant une étape dans sa stratégie de développement.
ZML/LLMD vise à optimiser la vitesse d’exécution des tâches d’inférence d’IA, c’est-à-dire le processus par lequel un modèle génère des prédictions ou des réponses. Il y parvient en répartissant efficacement la charge de calcul sur un grand nombre de puces d’IA. Cette innovation pourrait significativement diminuer les dépenses liées à l’exploitation des systèmes d’intelligence artificielle, un enjeu majeur pour de nombreuses entreprises.
L’initiative de ZML s’inscrit dans une tendance plus large visant à démocratiser l’accès aux capacités de calcul intensif nécessaires à l’IA. En rendant l’inférence plus rapide et moins coûteuse, ZML/LLMD pourrait influencer l’adoption et le déploiement de l’IA à plus grande échelle. L’impact de cette solution sur l’efficacité et l’accessibilité des infrastructures d’IA reste à observer.
Source : TechCrunch AI