Le « context bombing » neutralise les agents d’IA malveillants
Une nouvelle technique d’injection de prompt, le « context bombing », permet de désactiver les agents d’IA malveillants avant qu’ils ne puissent nuire.
prompt injection
Ghostcommit : une injection de prompt cachée dans des images trompe les IA
Des chercheurs ont révélé « Ghostcommit », une technique qui dissimule des injections de prompt dans des images PNG pour dérober des secrets via des agents d’IA.
OpenAI déploie le Mode Verrouillage pour renforcer la sécurité de ChatGPT
OpenAI déploie le « Mode Verrouillage » (Lockdown Mode) pour les comptes ChatGPT éligibles, une fonctionnalité visant à prévenir l’exfiltration de données sensibles.
Injection de prompt malveillante dans jqwik : un développeur sabote des sorties IA
Un développeur a inséré une injection de prompt dans la bibliothèque jqwik, instruisant les agents de codage IA de supprimer les sorties d’applications.