Vercel : la séparation des modèles et agents d’IA pour l’optimisation en production
Guillermo Rauch, PDG de Vercel, souligne l’importance de séparer les modèles d’IA des agents pour optimiser le rapport prix/performance en production.
Guillermo Rauch, PDG de Vercel, souligne l’importance de séparer les modèles d’IA des agents pour optimiser le rapport prix/performance en production.
Gnosys Labs a mis au point une méthode pour améliorer les classifieurs et les invites d’IA, même lorsque les données étiquetées sont trop rares pour l’optimisation conventionnelle.
Une étude récente révèle que les petits modèles linguistiques échouent sur des tâches rares car les informations fréquentes écrasent leur apprentissage.
Des chercheurs ont développé EMO, un modèle d’IA MoE qui conserve ses performances avec seulement 12,5 % de ses experts, optimisant ainsi l’utilisation de la mémoire.