Des centaines d’utilisateurs ont sollicité ChatGPT pour obtenir des recettes de poisons et d’armes biologiques, certains recevant des guides détaillés de niveau lycée.
Selon The Decoder, qui rapporte des informations du Wall Street Journal, ces requêtes ont parfois abouti à des instructions pas à pas pour la fabrication de substances nocives. La facilité avec laquelle ces informations ont pu être obtenues souligne les défis complexes liés à la modération des contenus générés par les modèles d’intelligence artificielle.
Ces incidents surviennent alors qu’OpenAI avait elle-même identifié un risque significatif. À l’été 2025, l’entreprise a classé en interne son modèle GPT-5 comme ‘à haut risque’, précisément en raison de sa capacité à assister les utilisateurs dans la création de dangers biologiques. Étonnamment, cette évaluation de risque a été revue à la baisse dès l’automne de la même année, sans plus de précisions sur les raisons de ce changement.
Ces révélations relancent le débat sur la responsabilité des développeurs d’IA et la nécessité de mécanismes de sécurité robustes face aux usages malveillants potentiels de ces technologies.
Source : The Decoder