OpenAI a explicitement instruit son agent de codage, Codex, d’éviter toute mention de créatures fantastiques ou d’animaux spécifiques, sauf pertinence absolue. Cette directive interne, révélée par Wired AI, stipule : « Ne parlez jamais de gobelins, de gremlins, de ratons laveurs, de trolls, d’ogres, de pigeons, ou d’autres animaux ou créatures, à moins que ce ne soit absolument et sans ambiguïté pertinent. »
Ces consignes soulignent l’effort d’OpenAI pour affiner la pertinence des productions de ses modèles d’IA, en particulier pour un agent de codage comme Codex. L’objectif est de prévenir les digressions et de garantir que l’IA reste focalisée sur la tâche technique, évitant ainsi des éléments non essentiels qui pourraient parasiter le code ou les explications.
Cette approche met en lumière les défis inhérents à la modération et à la direction des intelligences artificielles génératives. La précision et la concision sont cruciales, notamment dans des contextes d’applications techniques où la clarté est primordiale. L’implémentation de tels garde-fous interroge sur l’étendue des directives nécessaires pour optimiser les performances des IA spécialisées.
Source : Wired AI