Modèles LFM2.5 Q4_0 : l’efficacité de l’IA par distillation quantifiée
Liquid AI a mis à disposition une nouvelle série de modèles, les LFM2.5 Q4_0, optimisés pour l’efficacité grâce à une technique de distillation consciente de la quantification.
Distillation
La distillation de DeepSeek V4 Flash ne transfère pas sa censure
Une récente étude montre que la distillation du modèle DeepSeek V4 Flash vers un modèle de base ouvert ne transfère pas les caractéristiques de censure du modèle enseignant.
Kimi K3 : des experts doutent d’une amélioration par simple distillation de Fable
Des experts en IA doutent que l’amélioration rapide de Kimi K3 soit uniquement due à l’exploitation du modèle Fable d’Anthropic par distillation.