Les LLM piégés par la pensée de groupe : une startup cherche à les libérer
Les grands modèles de langage (LLM) montrent une tendance à la « pensée de groupe », produisant des réponses étonnamment similaires, comme le révèle une expérience simple.
LLM
Claude Sonnet 5 : Des coûts réels en hausse, une pratique récurrente chez Anthropic
Le nouveau modèle Claude Sonnet 5 d’Anthropic, plus performant, consomme environ 40% de tokens supplémentaires par tâche, augmentant les coûts réels.
Une passerelle pour sécuriser les agents LLM contre l’injection de prompt
Une nouvelle approche systémique propose de contrer l’injection de prompt, un mode de défaillance persistant des systèmes d’IA, en séparant les canaux d’instruction et de données.
Le « phantom squatting » : quand l’IA invente des domaines pour le phishing
Le « phantom squatting » est une nouvelle technique de cyberattaque exploitant les domaines web inventés par les modèles de langage pour le phishing et les malwares.
Les navigateurs IA vulnérables aux fausses prémisses logiques
Une récente attaque démontre qu’une simple affirmation erronée, comme « 2 + 2 = 5 », suffit à faire ignorer aux grands modèles linguistiques leurs instructions de sécurité.
NanoEuler : un modèle GPT-2 en C/CUDA pour une compréhension bas niveau des LLM
Un développeur a créé NanoEuler, une implémentation de modèle de langage à l’échelle de GPT-2, entièrement en C et CUDA, dans le but d’approfondir la compréhension des systèmes d’IA à un niveau bas.
Quel LLM correspond à votre personnalité ? Un quiz inédit le révèle
Un quiz inédit permet de découvrir quel modèle de langage correspond le mieux à votre personnalité et vos valeurs, révélant des divergences surprenantes.
RAGless : une nouvelle approche sémantique pour les FAQ
Un nouveau système de récupération sémantique nommé RAGless utilise l’appariement question-à-question pour améliorer la recherche dans les FAQ à domaine fermé.
GLM 5.2 surpasse Claude dans des tests de cybersécurité selon Semgrep
GLM 5.2 surpasse Claude dans des benchmarks de cybersécurité selon Semgrep.
Un transformeur réduit pour visualiser ses mécanismes internes
Un utilisateur a développé une version simplifiée et interactive d’un modèle transformeur, permettant de visualiser et d’éditer ses calculs internes pour une meilleure compréhension.