La communauté de l’IA open-source s’enrichit de nouvelles options avec la publication par Unsloth de poids au format GGUF MTP pour les modèles Gemma 4. Ces poids sont disponibles pour les versions 31 milliards, 26 milliards-A4B et 12 milliards de paramètres.
Ces formats incluent des quantifications Q8, F16 et BF16, offrant ainsi une flexibilité accrue aux développeurs et aux chercheurs souhaitant exécuter ces modèles localement. L’objectif est de faciliter l’accès à des modèles de langage performants sur du matériel moins puissant.
Ces poids sont accessibles sur Hugging Face, permettant leur intégration dans divers projets d’IA générative. L’écosystème des modèles locaux continue ainsi de se diversifier et de gagner en accessibilité.
Source : Reddit r/LocalLLaMA