Alors que de nombreuses entreprises développent des routeurs pour grands modèles de langage (LLM), la plateforme Manifest.build a annoncé la dépréciation du sien. Cette décision intervient après avoir constaté que la complexité de maintenance et le manque de proposition de valeur claire pour leurs utilisateurs ne justifiaient plus son existence.
Initialement conçu pour diriger dynamiquement les requêtes vers le LLM le plus approprié en fonction de critères comme le coût, la latence ou les capacités, le routeur visait à optimiser l’utilisation des modèles. Cependant, Manifest.build a observé que les développeurs privilégient souvent un contrôle direct sur la sélection des modèles et l’ingénierie des prompts, trouvant les solutions génériques inadaptées à leurs besoins spécifiques.
L’entreprise souligne également l’émergence de nouvelles approches, telles que les flux de travail basés sur des agents, l’affinage de modèles (fine-tuning) ou la Génération Augmentée par Récupération (RAG). Ces méthodes offrent des solutions plus ciblées et prévisibles, rendant un routeur centralisé moins pertinent. Cette évolution suggère une préférence croissante pour des architectures d’IA plus modulaires et adaptées aux cas d’usage précis.
Source : Hacker News (Algolia)