Anthropic lance « Claude for Legal » pour le secteur juridique
Anthropic a mis à disposition un dépôt GitHub, « Claude for Legal », proposant des ressources pour intégrer ses modèles d’IA dans des applications juridiques.
LLM
Optimisation de l’inférence des LLM avec le batching continu asynchrone
Hugging Face a introduit le batching continu asynchrone, une innovation qui améliore l’utilisation des GPU et réduit la latence pour les grands modèles de langage.
La publicité s’invite dans les LLM : nouveaux défis pour les marques
L’intégration de la publicité dans les modèles de langage (LLM) comme ChatGPT marque l’émergence d’un nouveau canal publicitaire, redéfinissant le parcours client.
Amazon intègre Alexa Plus, son assistant IA, à son site d’achat
Amazon déploie Alexa for Shopping, un assistant IA basé sur Alexa Plus, directement sur Amazon.com pour transformer l’expérience d’achat en ligne.
Apprentissage rapide et lent : le défi de l’adaptation continue des LLM
Les grands modèles linguistiques (LLM) sont confrontés à un dilemme entre l’adaptation rapide via l’apprentissage in-context et l’optimisation des paramètres, qui peut entraîner l’oubli catastrophique.
L’IA accélère la découverte de failles, la politique de divulgation de 90 jours menacée
L’IA accélère la découverte de failles de sécurité, menaçant la politique de divulgation de 90 jours.
ExLlamaV3 améliore significativement la vitesse d’inférence des LLM
ExLlamaV3 intègre des optimisations majeures, dont le support DFlash, pour accélérer l’inférence des grands modèles de langage.
Les LLM face à un mur logique : l’ingénierie d’invite ne suffit pas
Des experts en IA alertent sur les limites fondamentales des grands modèles de langage (LLM) face aux tâches de raisonnement logique et de calcul exact, remettant en question l’efficacité de l’ingénierie d’invite.
Anthropic enseigne à Claude l’art d’expliquer ses raisonnements
Anthropic a dévoilé une recherche majeure visant à doter son modèle Claude de la capacité d’expliquer les raisons de ses réponses, une avancée pour la transparence des IA.
Skymizer dévoile une carte d’inférence PCIE de 384 Go de mémoire
L’entreprise taïwanaise Skymizer a annoncé la carte d’inférence PCIE HTX301, dotée de 384 Go de mémoire et consommant environ 240 Watts, une innovation majeure pour l’IA locale.