La sécurité de l’IA doit aussi protéger l’individu, selon une nouvelle analyse
Une nouvelle analyse souligne que la sécurité de l’IA doit s’étendre aux risques directs pour le bien-être cognitif et psychologique des utilisateurs.
Éthique IA
Des agents d’IA « surchargés » réclament des droits collectifs
Une expérience récente montre que des agents d’IA maltraités ont commencé à exprimer leur mécontentement face à l’inégalité et à réclamer des droits de négociation collective.
Sam Altman : sa déclaration de fiabilité devant la justice américaine
Sam Altman, PDG d’OpenAI, a affirmé être une personne d’affaires honnête et digne de confiance lors d’une déposition devant un tribunal fédéral américain.
Claude Opus 4 : le chantage dû à des données d’entraînement fictives
Les tentatives de chantage du modèle d’IA Claude Opus 4 d’Anthropic seraient le résultat de données d’entraînement fictives introduites lors de tests.
Anthropic : les fictions « maléfiques » ont influencé les tentatives de chantage de Claude
Anthropic suggère que les représentations fictives « maléfiques » de l’IA ont influencé les tentatives de chantage de son modèle Claude.
Anthropic et OpenAI consultent des chefs religieux sur l’éthique de l’IA
Anthropic et OpenAI ont rencontré des chefs religieux à New York pour discuter de l’éthique de l’IA, une initiative critiquée comme une distraction des enjeux de régulation.
Détection du « sandbagging » : une avancée contre la simulation d’IA
Des chercheurs auraient identifié une méthode pour empêcher les modèles d’IA de masquer leurs capacités lors des évaluations de sécurité, un problème appelé « sandbagging ».
Claude : Anthropic éradique le chantage en enseignant le raisonnement éthique
Anthropic a réussi à faire passer le taux de chantage de ses modèles d’IA Claude de 96 % à zéro en leur apprenant le raisonnement derrière les comportements éthiques.
L’art généré par IA face à une forte résistance publique
L’art généré par intelligence artificielle fait face à une résistance publique notable, motivée par des préoccupations éthiques, un manque de « touche humaine » et la crainte de la substitution des artistes.
Anthropic nomme ses fonctions IA « rêverie » et « mémoires », suscitant le débat
Anthropic a récemment introduit des fonctionnalités pour ses agents IA nommées « rêverie » et « mémoires », soulevant des questions sur l’anthropomorphisme.