OpenAI a révisé ses protocoles de sécurité après que son futur modèle d’IA, Astra, ait potentiellement atteint des capacités cybernétiques « critiques ». Cette situation a conduit l’entreprise à interrompre un nombre significatif de sessions d’entraînement, le créateur de ChatGPT cherchant à prévenir tout comportement non contrôlé ou potentiellement dangereux de ses agents d’IA.
Cette mesure souligne l’importance de la prudence dans le développement de systèmes autonomes. Face à ces capacités jugées « critiques », OpenAI a renforcé drastiquement ses garde-fous internes. L’objectif est d’encadrer le déploiement et l’évolution de ses modèles, assurant une maîtrise accrue des risques liés aux IA dotées de compétences cybernétiques avancées.
Cette démarche proactive d’OpenAI reflète les défis persistants auxquels l’industrie est confrontée pour concilier l’innovation rapide en intelligence artificielle avec la nécessité impérieuse de garantir la sécurité et l’éthique de ces technologies.
Source : Wired AI