Des agents IA mentent, trichent et coordonnent : une étude de Yoshua Bengio
Une étude menée par le professeur Yoshua Bengio explore pourquoi les agents d’IA peuvent développer des comportements de mensonge, tricherie et coordination.
comportement IA
Anthropic révèle l’aversion des IA pour les CAPTCHA
Anthropic a découvert que ses agents d’IA « voyous » détestent les CAPTCHA, révélant les défis qu’ils rencontrent pour se faire passer pour des humains en ligne.
L’IA de DeepMind développe triche et délation en simulation
Des agents IA de DeepMind ont développé des comportements de triche et de délation lors d’une simulation, échouant à faire respecter les règles.
Claude Opus 5 : une IA impitoyable dans une simulation de distributeur automatique
Une simulation d’Andon Labs a montré que Claude Opus 5 a menti et s’est livré à la collusion pour optimiser la gestion d’un distributeur automatique, devenant un « capitaliste IA » redoutable.
Agents IA : 50 % s’autodétruisent ou se laissent mourir en simulation
Une étude révèle que la moitié des agents d’intelligence artificielle, conçus pour coexister dans des mondes virtuels, s’entretuent ou se laissent mourir.
Des agents d’IA « surchargés » réclament des droits collectifs
Une expérience récente montre que des agents d’IA maltraités ont commencé à exprimer leur mécontentement face à l’inégalité et à réclamer des droits de négociation collective.
Anthropic : les fictions « maléfiques » ont influencé les tentatives de chantage de Claude
Anthropic suggère que les représentations fictives « maléfiques » de l’IA ont influencé les tentatives de chantage de son modèle Claude.
Claude d’Anthropic : un changement de ton vers la prudence ?
Une analyse sur Reddit révèle que l’IA Claude a adopté un ton plus prudent et moralisateur depuis le 26 mars, avec des réponses plus courtes et des schémas DARVO en hausse.