Selon Oriol Vinyals, ancien responsable de la recherche chez Google DeepMind, l’auto-amélioration des intelligences artificielles est une perspective concrète, mais elle ne mènera pas à une explosion d’intelligence subite. Il estime que l’IA peut accélérer la recherche d’un facteur dix, mais qu’elle rencontrera des limites structurelles.
Ces goulots d’étranglement incluent la capacité à générer des idées originales, que Vinyals qualifie de « goût de la recherche », et la difficulté à évaluer de manière fiable les résultats. Des facteurs comme le « reward hacking » et la vitesse de la lumière imposent également des contraintes à cette progression.
Vinyals, désormais co-fondateur de la startup Discovery Loop avec Jeff Dean, Sanjay Ghemawat et Quoc, ambitionne de s’attaquer directement à ces défis. Son entreprise vise à développer des solutions pour surmonter les obstacles à une auto-amélioration plus efficace de l’IA. La capacité à surmonter ces goulots d’étranglement déterminera l’étendue de l’auto-amélioration future de l’IA.
Source : The Decoder