Ramp lance Router, son service de routage de modèles d’IA
Ramp a lancé Router, un service permettant aux entreprises d’utiliser et de basculer entre divers grands modèles de langage via une API unique.
routage
Optimiser les coûts des chatbots grâce à une nouvelle approche de routage
Une nouvelle méthode promet de réduire les coûts des chatbots jusqu’à 60% en optimisant l’usage des tokens.
Wayfinder Router : routage déterministe pour LLM hybrides
Le projet open source Wayfinder Router propose un routage déterministe des requêtes entre les modèles de langage locaux et hébergés.