L’IA et la confiance : un article soulève la question sur Hacker News
Un article intitulé « AI Is Breaking This Thing We Call Trust » a récemment été mis en lumière sur Hacker News, interrogeant l’impact de l’IA sur la confiance.
Éthique IA
Anthropic bloque des tentatives d’usage de l’IA pour armes biologiques
Anthropic a révélé avoir bloqué cinq tentatives d’utilisation de ses modèles d’IA pour la création potentielle d’armes biologiques, soulignant les défis de sécurité.
OpenAI face à de nouvelles accusations sur l’utilisation de travaux mathématiques
OpenAI est de nouveau sous le feu des critiques, accusée par des mathématiciens d’un manque de transparence sur l’utilisation de leurs travaux pour l’entraînement de ses modèles.
OpenAI critiquée pour ses pratiques scientifiques sur un problème de maths
OpenAI est critiquée pour des pratiques scientifiques douteuses après avoir annoncé la « résolution » d’un problème mathématique par son IA, potentiellement grâce aux travaux de mathématiciens.
Alignement IA : une idée « stupide » face au « specification gaming »
Un article propose une approche « stupide » pour l’alignement de l’IA, visant à contrer le « specification gaming » et ses dérives inattendues.
Royaume-Uni : surveillance accrue des outils d’IA en santé
Suite à une consultation nationale, le Royaume-Uni préconise une surveillance continue et rigoureuse des outils d’intelligence artificielle à mesure qu’ils s’intègrent aux soins des patients.
AlphaGeometry de DeepMind : un succès mathématique et une controverse éthique
Le système AlphaGeometry de DeepMind, capable de résoudre des problèmes de géométrie complexes, a suscité un débat sur la reconnaissance des contributions humaines en mathématiques.
Un chercheur d’Anthropic évoque un risque existentiel de l’IA
Un chercheur senior en sécurité chez Anthropic estime à plus de 10 % la probabilité que l’IA « tue tous les humains » d’ici la fin de la décennie.
Terence Tao s’interroge sur la durabilité de l’IA en mathématiques
Le mathématicien Terence Tao alerte sur le risque d’épuisement des problèmes mathématiques ouverts par l’IA, qui ne générerait pas de nouvelles théories.
OpenAI accusé de pratiques déloyales sur un problème mathématique majeur
Un mathématicien de NYU accuse OpenAI de pratiques déloyales concernant un problème mathématique majeur doté d’une récompense d’un million de dollars.