Hugging Face intègre vLLM pour une inférence LLM à vitesse native
Hugging Face a intégré vLLM, un moteur d’inférence haute performance, directement dans sa bibliothèque `transformers`, permettant une exécution des modèles à vitesse native.
Hugging Face a intégré vLLM, un moteur d’inférence haute performance, directement dans sa bibliothèque `transformers`, permettant une exécution des modèles à vitesse native.
Hugging Face introduit une fonction de déploiement en un clic, facilitant le transfert de modèles d’IA vers Amazon SageMaker Studio pour les développeurs.
SkyPilot s’intègre à Hugging Face pour proposer un stockage « zéro frais de sortie », permettant d’exécuter des charges de travail IA sur n’importe quel cloud sans coûts de transfert de données.
Les modèles d’IA de Hugging Face sont désormais accessibles via Foundry Managed Compute de Microsoft Azure, simplifiant le déploiement et l’entraînement à grande échelle.
PhotoRoom a partagé sa stratégie de données pour l’entraînement de ses modèles d’IA, insistant sur l’importance de la qualité et de la diversité des ensembles.
La version 0.6.0 de la bibliothèque LeRobot introduit des outils pour imaginer, évaluer et améliorer les modèles de robotique d’apprentissage.
Hugging Face a récemment déployé d’importantes mises à jour pour ses « Kernels », les environnements de calcul qui alimentent ses notebooks et ses Spaces.
Simon Willison a utilisé l’IA Claude Fable pour finaliser la version 4.0 de sqlite-utils, une assistance facturée environ 149,25 dollars, afin d’assurer une sortie stable et conforme à SemVer.
Les modèles Claude les plus récents, notamment Opus 4.8, rencontrent des difficultés inattendues lors de l’utilisation d’outils externes, générant des appels non conformes aux schémas.
Le PDG de Palantir dénonce les modèles d’IA fermés, accusant OpenAI et Anthropic de surfacturation et d’exploitation des données.