Optimisation de l’inférence des LLM avec le batching continu asynchrone
Hugging Face a introduit le batching continu asynchrone, une innovation qui améliore l’utilisation des GPU et réduit la latence pour les grands modèles de langage.
hugging face
Hugging Face détaille l’architecture AWS pour les modèles de fondation
Hugging Face a publié un guide technique expliquant comment construire et optimiser l’infrastructure AWS pour l’entraînement et l’inférence de modèles de fondation.
Un faux dépôt OpenAI sur Hugging Face distribue un voleur d’informations
Un dépôt malveillant se faisant passer pour un modèle OpenAI a atteint la première place des tendances sur Hugging Face, distribuant un voleur d’informations aux utilisateurs Windows.
ServiceNow et Hugging Face priorisent la justesse des LLM en RL
ServiceNow AI et Hugging Face introduisent une approche pour l’entraînement des LLM, privilégiant la justesse intrinsèque avant les corrections dans l’apprentissage par renforcement.
Hugging Face renforce la fiabilité de son classement ASR
Hugging Face utilise désormais des données privées pour évaluer les modèles ASR et améliorer la fiabilité de son classement.
Le module pipeline de Transformers pour l’analyse émotionnelle
Une discussion sur Reddit a mis en lumière l’application du module `pipeline` de la bibliothèque `transformers` pour extraire les causes émotionnelles de textes.
hfviewer.com : un outil pour visualiser les architectures de modèles Hugging Face
hfviewer.com est un nouvel outil permettant d’explorer visuellement et interactivement les architectures des modèles Hugging Face, simplifiant leur compréhension et leur comparaison.
DeepInfra s’intègre aux fournisseurs d’inférence de Hugging Face
Hugging Face intègre DeepInfra pour optimiser le déploiement et l’accès aux grands modèles de langage.
Hugging Face détaille la création d’apps web évolutives avec le filtre de confidentialité d’OpenAI
Hugging Face a publié un guide sur la conception d’applications web évolutives intégrant le filtre de confidentialité d’OpenAI pour protéger les données sensibles.
Cybersécurité : l’IA open source, un atout majeur selon Hugging Face
L’IA open source est cruciale pour la cybersécurité, selon Hugging Face, qui prône la transparence.