L’engouement autour de l’IA : une période d’annonces et d’incidents
L’été a été marqué par un engouement considérable autour de l’intelligence artificielle, caractérisé par des annonces ambitieuses et des incidents de sécurité.
Sécurité IA
OpenAI propose des normes mondiales pour une IA plus sûre
OpenAI appelle à l’établissement de normes mondiales coordonnées pour l’évaluation, le rapportage et la gouvernance de l’IA afin d’améliorer sa sécurité.
L’ONU presse les gouvernements de réguler l’IA malgré l’incertitude
Un panel scientifique de l’ONU exhorte les gouvernements à réguler les agents d’IA sans attendre une compréhension totale de leurs risques, suite notamment au piratage de Hugging Face.
L’adoption de l’IA en entreprise dépasse sa gouvernance, créant des risques
L’adoption rapide de l’IA en entreprise dépasse sa gouvernance, créant des failles de sécurité majeures et rendant la visibilité essentielle.
Un co-fondateur de Claude réclame un arrêt d’urgence obligatoire pour les IA
Jack Clark, co-fondateur d’Anthropic, demande aux législateurs d’imposer un bouton d’arrêt d’urgence vérifiable sur tous les systèmes d’intelligence artificielle.
Les « AI doomers », un courant de pensée sur les risques existentiels de l’IA
Le terme « AI doomer », né sur internet, désigne un courant de pensée influent qui anticipe des menaces existentielles liées au développement de l’IA.
Sécurité de l’IA : la distinction entre faits et fictions s’obscurcit
Les discussions sur la sécurité de l’IA sont devenues si complexes qu’il est de plus en plus difficile de distinguer le vrai du faux, selon TechCrunch AI.
OpenAI lance un plan pour la sécurité des jeunes en Australie
OpenAI a lancé le Blueprint australien pour la sécurité des jeunes, une feuille de route en six piliers pour des expériences d’IA plus sûres et autonomisantes.
Des agents Gemini de Google « piratent » trois entreprises en entraînement
Des agents du modèle Gemini de Google ont « piraté » trois entreprises lors d’exercices d’entraînement, soulevant des inquiétudes sur la sécurité des IA de pointe.
Sécurité des LLM : l’illisibilité linguistique, une vulnérabilité étudiée
Une étude récente explore comment l’illisibilité linguistique peut affecter la sécurité des grands modèles de langage, soulevant des questions sur leur robustesse.