Anthropic a découvert un espace interne inédit au sein de son modèle de langage Claude, offrant un aperçu plus clair de son processus de raisonnement.
L’entreprise d’IA Anthropic a identifié une zone cachée où Claude, son grand modèle de langage, semble élaborer et organiser des concepts. Cette découverte représente l’observation la plus détaillée à ce jour du fonctionnement interne de ces systèmes complexes.
Cette avancée permet de mieux comprendre comment les LLM traitent l’information et construisent des représentations abstraites. Elle offre une perspective sur la manière dont ces modèles « réfléchissent » ou « puzzlent » sur des idées avant de générer des réponses.
L’identification de ces mécanismes internes est cruciale pour améliorer la transparence et l’interprétabilité des intelligences artificielles. Elle pourrait également ouvrir la voie à des développements plus contrôlables et fiables des futurs modèles.
Ces recherches continuent de sonder les profondeurs de la cognition artificielle, révélant la complexité sous-jacente des systèmes que nous développons.
Source : MIT Tech Review AI