Un moteur LLM 1-bit en Rust atteint des performances inédites sur CPU Edge
Un développeur a conçu un moteur d’inférence de LLM 1-bit en Rust, offrant 150+ TPS et 350 Mo de mémoire sur des CPU périphériques.
Un développeur a conçu un moteur d’inférence de LLM 1-bit en Rust, offrant 150+ TPS et 350 Mo de mémoire sur des CPU périphériques.
Une analyse prospective datée de 2025 explore les enseignements tirés de la production de 100 000 lignes de code Rust avec l’aide de l’intelligence artificielle, soulignant défis et opportunités.
Dropbox a lancé Witchcraft, un projet open source offrant un moteur de recherche sémantique local et rapide, basé sur SQLite et fonctionnant sans dépendances externes.
Un développeur a implémenté un classifieur Support Vector Machine (SVM) entièrement en Rust, démontrant les capacités du langage pour le machine learning.
Redox OS, système d’exploitation open source, bannit le code généré par IA de ses contributions.
Un développeur a créé un modèle de langage Rust de petite taille, atteignant une vitesse d’inférence 51 fois supérieure grâce à une technique d’attention hybride.
Un développeur a créé un petit modèle de langage spécialisé en Rust, atteignant une vitesse d’inférence 51 fois supérieure grâce à une approche nommée HybridAttention.