OpenAI lance « Contact de confiance », une fonctionnalité optionnelle pour ChatGPT visant à améliorer la sécurité des utilisateurs.
Ce nouvel outil permet à l’IA de notifier une personne désignée par l’utilisateur si elle détecte des signes de détresse psychologique grave, notamment des pensées suicidaires.
L’objectif est d’offrir un filet de sécurité supplémentaire, en permettant à un proche d’intervenir si l’outil identifie un risque sérieux pour le bien-être de l’utilisateur. La mise en place de cette option soulève des questions sur la gestion des données sensibles et la fiabilité des algorithmes de détection.
Source : OpenAI Blog