OpenAI Astra : une technique innovante suscite des questions de sécurité
Une technique innovante d’OpenAI pour son modèle Astra améliore les performances mais rend plus difficile la surveillance de ses comportements, soulevant des inquiétudes.
Transparence
Instagram exige le signalement des profils IA pour plus de transparence
Instagram va exiger que les profils générés par intelligence artificielle soient clairement signalés, répondant ainsi à la grogne des utilisateurs.
Instagram renforce ses mesures contre les faux profils IA
Instagram intensifie sa lutte contre les faux profils d’influenceurs générés par IA, en renommant l’étiquette « créateur IA » pour une meilleure clarté.
Anthropic marque les contenus de Claude, des compromis en question
Anthropic a introduit un filigrane textuel pour les contenus de Claude afin de les rendre détectables, mais des critiques s’interrogent sur les compromis liés au style et à la transparence.
Anthropic précise le fonctionnement des filigranes de Claude
Anthropic a récemment détaillé le fonctionnement de ses futurs filigranes numériques pour son modèle d’IA, Claude, afin de marquer le contenu généré.
Un homme injecte des prompts IA dans des dossiers judiciaires
Soupçonnant un tribunal d’utiliser l’IA, un homme a inséré des « prompts » dans ses documents judiciaires pour tenter d’influencer le verdict.
Anthropic va tatouer les textes et images générés par Claude pour les identifier
Anthropic va intégrer un marquage numérique aux textes et images générés par Claude, facilitant leur identification et répondant aux obligations de l’AI Act.
Spotify introduit un badge « AI Persona » pour les artistes non-humains
Spotify va désormais étiqueter les profils d’artistes non-humains avec un badge « AI Persona » et réduire leur visibilité dans les recommandations.
Une nouvelle méthode révèle les « pensées » internes des IA
Des chercheurs ont mis au point une méthode pour extraire les « traces de raisonnement » des IA, suggérant que des modèles chinois pourraient être entraînés sur des IA américaines.
Une méthode pour distinguer les contributions humaines et IA dans les textes
Un projet open-source propose une approche basée sur les différences pour identifier la provenance (humaine ou IA) des modifications de texte au niveau de la ligne.