Les modèles de monde actuels, tels que Sora ou Genie, prédisent des actions erronées car ils négligent les croyances et intentions humaines, selon une nouvelle recherche. Ces systèmes simulent principalement la physique, ignorant ce que les individus pensent, veulent ou ressentent, ce qui limite leur capacité à comprendre et anticiper les comportements complexes.
Un nouveau cadre, baptisé « Modélisation Mentale du Monde » (Mental World Modeling), intègre désormais des variables mentales comme les croyances et les intentions. Cette approche permet même à des modèles de langage moins puissants de surpasser des modèles plus robustes qui n’utilisent pas cette modélisation mentale dans la prédiction d’actions.
Le principal défi identifié par cette étude réside dans la prédiction de la manière dont les états physiques et mentaux évoluent conjointement. Cette avancée ouvre des perspectives pour des IA capables d’une compréhension plus nuancée des interactions humaines.
Source : The Decoder