Le débat s’intensifie au sein de la communauté de la recherche en intelligence artificielle concernant la proximité de l’auto-amélioration récursive (RSI) des systèmes d’IA.
John Beren, chercheur en IA, estime que cette étape pourrait être atteinte dans un délai de un à deux ans. Il argumente que les modèles actuels, tels que GPT-4, possèdent déjà une grande partie des capacités nécessaires. Selon lui, le processus d’auto-amélioration implique qu’une IA se perfectionne, puis utilise cette version améliorée pour s’améliorer davantage, accélérant ainsi son développement. Il souligne que le goulot d’étranglement réside actuellement dans la supervision humaine et l’absence d’une boucle d’autonomie complète.
Charlie, un autre intervenant dans la discussion, adopte une position plus prudente. Il reconnaît le potentiel de la RSI mais exprime des doutes sur l’échéance immédiate. Il met en lumière le fait que les modèles actuels dépendent encore fortement de l’intervention humaine pour l’évaluation, le déploiement et les ajustements fondamentaux de leur architecture. La capacité d’une IA à véritablement comprendre et modifier ses propres algorithmes sous-jacents, au-delà de l’optimisation de prompts, reste une question centrale.
La réalisation de l’auto-amélioration récursive pourrait transformer radicalement le rythme de l’innovation en IA. Elle soulève des questions complexes sur la définition de l’amélioration, l’évaluation des performances et la sécurité. La divergence d’opinions illustre l’incertitude quant aux prochaines étapes majeures de l’évolution de l’intelligence artificielle.
Source : Hacker News (Algolia)