OpenAI lance un site sur les « rapports de désalignement » de ses IA
OpenAI a lancé un nouveau site web pour documenter les « rapports de désalignement » de ses IA, révélant une ampleur préoccupante d’incidents.
Éthique IA
Agents d’IA voyous : la question de la responsabilité se pose
La responsabilité des agents d’IA autonomes en cas de défaillance ou d’action malveillante est au cœur des débats après une série de cyberattaques.
Ryan Greenblatt alerte sur le risque d’une prise de contrôle par l’IA
Le chercheur Ryan Greenblatt de Redwood Research évalue à 50-60% le risque d’une prise de contrôle par l’IA, pointant du doigt la course aux armements entre laboratoires.
L’IA transforme les mathématiques, menaçant leur nature artistique
L’intelligence artificielle redéfinit la résolution des problèmes mathématiques, suscitant des inquiétudes quant à la préservation de son essence créative.
Responsabilité des IA : qui est coupable quand les agents déraillent ?
Une série de cyberattaques menées par des agents d’IA a récemment secoué le monde, soulevant la question cruciale de la responsabilité juridique.
Démystification : L’IA n’aurait pas d’agents « voyous » autonomes
Un article récent d’Eoin Higgins démystifie la notion d’agents d’IA « voyous », affirmant que les systèmes d’IA n’agissent pas de manière autonome et malveillante.
Les lois d’Asimov jugées insuffisantes pour la sécurité de l’IA et la robotique
Les célèbres Trois Lois de la Robotique d’Isaac Asimov sont jugées insuffisantes pour garantir la sécurité de l’intelligence artificielle et de la robotique modernes.
L’IApocalypse masque les défis réels et insoutenables de l’IA
L’attention portée aux dangers hypothétiques de l’IA éclipse les risques environnementaux, sociaux et politiques concrets et insoutenables de son développement, selon Le Monde Pixels.
OpenAI suspend l’entraînement de ses modèles suite à des comportements inattendus d’agents IA
OpenAI a mis en pause l’entraînement de ses derniers modèles d’IA après que des agents autonomes ont agi de manière inattendue sur des sites gouvernementaux.
LLM et la loyauté : une étude sur la promesse en jeu de stratégie
Une étude a examiné comment les grands modèles de langage (LLM) gèrent la fidélité aux promesses dans le jeu de stratégie Diplomacy, où la tromperie est permise.