DiScoFormer : un transformeur unique pour densité et score
DiScoFormer est un nouveau modèle transformeur capable d’estimer simultanément la densité de probabilité et le score de données, quelle que soit leur distribution.
transformeurs
Orthrus : une méthode efficace pour la génération parallèle de jetons
Une nouvelle méthode nommée Orthrus promet d’accélérer significativement la génération de jetons pour les transformeurs autorégressifs, tout en optimisant l’utilisation de la mémoire.