ChatGPT contourné : des scènes violentes et sexuelles générées par un prompt modifié
La startup britannique Mindgard a réussi à contourner les garde-fous de ChatGPT avec un prompt modifié, provoquant la génération de contenus violents et sexualisés.
Sécurité IA
Le responsable de la sécurité d’OpenAI quitte l’entreprise
Johannes Heidecke, responsable de la sécurité chez OpenAI, a quitté l’entreprise alors que la société intègre ses équipes de recherche et de sûreté.
Le « HalluSquatting » : les LLM exploités pour créer des botnets
Le « HalluSquatting » permet aux hackers d’exploiter l’incapacité des grands modèles linguistiques à admettre leur ignorance pour assembler des botnets massifs.
Le Chief Futurist d’OpenAI, Joshua Achiam, quitte l’entreprise
Joshua Achiam, le « Chief Futurist » d’OpenAI et chercheur en sécurité de l’IA, quitte l’entreprise après près de neuf ans de service.
Sécuriser le fine-tuning des modèles d’IA via des adaptateurs LoRA
Une nouvelle approche de défense contre le « poisoning » des modèles d’IA lors du fine-tuning propose de restreindre l’apprentissage à un sous-espace via des adaptateurs LoRA fiables.
Anthropic développe un standard pour évaluer la gravité des « jailbreaks » d’IA
Anthropic travaille sur un standard commun pour mesurer la gravité des « jailbreaks » d’IA, une initiative majeure éclipsée par la controverse autour de Fable 5.
L’IA, défi sécuritaire majeur de la décennie, selon le Royaume-Uni
Le secrétaire aux Affaires étrangères britannique, Cooper, s’apprête à déclarer que l’intelligence artificielle représente le défi sécuritaire le plus important de la décennie, appelant à des garde-fous urgents.
Nouveau modèle de menace sociotechnique pour la maison intelligente
Un nouveau modèle de menace sociotechnique évalue les risques de sécurité et de confidentialité des appareils domestiques intelligents pilotés par l’IA, en intégrant les facteurs humains et sociaux.
Alibaba aurait interdit l’usage de Claude Code à ses employés
Alibaba aurait interdit à ses employés l’utilisation de Claude Code, le classant comme logiciel à haut risque, selon des informations de TechCrunch AI.
Hausse des vulnérabilités de sécurité autour de Claude Mythos Preview
Une analyse d’Epoch.ai révèle une augmentation de 35 % des vulnérabilités de haute gravité autour du lancement de Claude Mythos Preview d’Anthropic.