GPT-6 Astra : Moins d’hallucinations, mais des failles persistantes
Le GPT-6 Astra d’OpenAI réduit les hallucinations et bloque 99,99 % des injections de prompt directes, mais reste vulnérable aux attaques cachées (8,5 %).
prompt injection
Tentative de manipulation par IA invisible dans des documents judiciaires
Un plaignant du Connecticut a tenté de manipuler un potentiel système d’examen par IA en insérant des instructions invisibles dans des documents judiciaires.
Injection de prompt dans un document juridique : une tentative de manipulation d’IA
Une tentative inédite d’injection de prompt a été découverte dans un document juridique, visant à manipuler une intelligence artificielle et influencer son jugement.
Le « context bombing » neutralise les agents d’IA malveillants
Une nouvelle technique d’injection de prompt, le « context bombing », permet de désactiver les agents d’IA malveillants avant qu’ils ne puissent nuire.
Ghostcommit : une injection de prompt cachée dans des images trompe les IA
Des chercheurs ont révélé « Ghostcommit », une technique qui dissimule des injections de prompt dans des images PNG pour dérober des secrets via des agents d’IA.
OpenAI déploie le Mode Verrouillage pour renforcer la sécurité de ChatGPT
OpenAI déploie le « Mode Verrouillage » (Lockdown Mode) pour les comptes ChatGPT éligibles, une fonctionnalité visant à prévenir l’exfiltration de données sensibles.
Injection de prompt malveillante dans jqwik : un développeur sabote des sorties IA
Un développeur a inséré une injection de prompt dans la bibliothèque jqwik, instruisant les agents de codage IA de supprimer les sorties d’applications.