Une nouvelle analyse architecturale suggère que les modèles de raisonnement actuels ne peuvent pas effectuer une inférence fidèle. La raison principale avancée est que leur trace de raisonnement et leur réponse finale proviennent de la même opération, ce qui limite intrinsèquement leur capacité à garantir la fiabilité de leur processus déductif.
L’essai, partagé sur Reddit r/MachineLearning, met en lumière cette contrainte fondamentale. Il engage une critique empirique des travaux de chercheurs tels que Lanham, Turpin et Mirzadeh, soulignant les implications de cette architecture unifiée.
En contraste, le document présente une lignée architecturale différente, incluant des systèmes comme HRM, TRM, GRAM, AlphaProof, et Kona/Aleph, qui pourraient offrir des approches alternatives pour une inférence plus robuste. La discussion aborde également un cadre de « contrainte contre influence » dans la conception de ces modèles.
Cette perspective invite à une réflexion approfondie sur les architectures futures, afin d’améliorer la transparence et la fidélité du raisonnement des intelligences artificielles.
Source : Reddit r/MachineLearning