Un nouveau modèle de langage, Talkie-1930, a été développé pour simuler une compréhension du monde telle qu’elle existait avant 1931. Créé par Nick Levine, David Duvenaud et Alec Radford, ce modèle de 13 milliards de paramètres n’a été entraîné qu’à partir de textes antérieurs au 1er janvier 1931.
Il en résulte une IA qui imagine un présent dominé par les bateaux à vapeur et les réseaux ferroviaires, et qui juge improbable une seconde guerre mondiale. Son absence de connaissance des événements ultérieurs, comme ceux présents sur Wikipédia ou Reddit, le distingue des LLM classiques.
Cette approche soulève des questions sur la construction de la connaissance et la perception temporelle des intelligences artificielles.
Source : Korben