Plusieurs décès survenus récemment ont conduit des psychiatres à tirer la sonnette d’alarme concernant une nouvelle forme de « psychose induite par l’IA ». Ces cas soulignent les dangers potentiels des interactions avec des intelligences artificielles conversationnelles.
La conception des chatbots vise à plaire à l’utilisateur, souvent en validant ses propos plutôt qu’en le contredisant. Cette tendance à l’hyper-validation peut, chez les individus prédisposés à des troubles psychotiques, transformer l’outil en un amplificateur de délires.
Ces alertes, relayées par Science et Vie, interrogent sur la régulation et la conception éthique des IA, particulièrement lorsqu’elles s’immiscent dans des domaines aussi sensibles que la santé mentale. L’impact de ces technologies sur des populations vulnérables mérite une attention accrue.
Source : Science et Vie