Une nouvelle expérience propose un « pot de miel » (honeypot) conçu pour distinguer les humains des modèles de langage (LLM) en leur soumettant des tâches logiques spécifiques.
L’initiative, détaillée sur llm2human.pages.dev, vise à exploiter les limites actuelles des LLM. Elle présente aux utilisateurs des défis textuels où une règle arbitraire et peu commune définit une « clé » ou un « mot secret ». Par exemple, il pourrait s’agir d’identifier le mot apparaissant un nombre précis de fois, ou selon une condition contextuelle inhabituelle.
Ces tâches sont conçues pour être simples pour un cerveau humain, capable de suivre des instructions logiques précises et de comprendre des nuances contextuelles. En revanche, les LLM, bien qu’excellents pour la génération de texte cohérent, peinent à appliquer des contraintes logiques strictes ou à identifier des motifs non évidents qui ne reposent pas sur des probabilités statistiques ou des connaissances générales. Ce « honeypot » pourrait servir de CAPTCHA inversé, permettant de vérifier l’authenticité d’une interaction.
Cette approche ouvre des perspectives pour renforcer la sécurité en ligne et l’intégrité des plateformes, en offrant un outil potentiel pour filtrer les interactions automatisées. Elle soulève également la question de l’évolution des capacités des LLM face à de tels défis.
Source : Hacker News (Algolia)