Les méthodes d’évaluation des modèles d’intelligence artificielle peinent à suivre le rythme de leur développement rapide, tandis que les menaces cybernétiques autonomes émergent.
L’organisation METR a récemment indiqué que sa suite de tests actuelle est à peine capable de mesurer les capacités de Claude Mythos Preview. Sur 228 tâches, seules cinq couvraient la gamme de capacités pertinentes du modèle, soulignant un décalage croissant.
Parallèlement, Palo Alto Networks a alerté sur l’émergence d’attaquants IA autonomes. Ces modèles de pointe sont capables d’enchaîner des vulnérabilités de manière autonome, réduisant le temps entre l’accès initial et l’exfiltration de données à seulement 25 minutes.
Ce constat met en lumière une problématique majeure : les méthodes d’évaluation progressent plus lentement que les modèles eux-mêmes. Cette asymétrie pourrait représenter un défi plus important encore que les capacités des modèles d’IA.
Cette divergence soulève des questions cruciales quant à notre capacité à comprendre et à sécuriser les systèmes d’IA de nouvelle génération.
Source : The Decoder