Xiaomi a rendu publics ses deux modèles d’intelligence artificielle, MiMo-V2.5 et MiMo-V2.5-Pro, en les plaçant sous licence MIT et en open source. Cette initiative permet à la communauté des développeurs d’accéder et d’utiliser ces outils.
Le modèle MiMo-V2.5-Pro se distingue par sa taille imposante, avec 1 020 milliards de paramètres, dont 42 milliards activés simultanément. Il est également doté d’une fenêtre de contexte d’un million de tokens, une capacité notable pour le traitement de longues séquences d’informations.
Ces modèles, basés sur une architecture Mixture-of-Experts à attention hybride, sont conçus pour gérer des tâches de longue durée. L’ensemble des éléments, incluant les poids, le tokenizer et la fiche modèle complète, est disponible au téléchargement sur la plateforme Hugging Face.
Source : Korben