Un nouveau cadre de conception, baptisé Concept-Vector, propose de rendre les plongements lexicaux (word embeddings) des modèles d’intelligence artificielle plus directement interprétables par l’humain.
Ce projet vise à distiller les plongements lexicaux complexes d’un modèle en des « vecteurs de concepts » clairs et compréhensibles. Chaque composante de ces vecteurs est conçue pour suivre des aspects spécifiques du langage, tels que la sémantique, la syntaxe, ou même des propriétés statistiques. L’innovation réside dans l’association de chaque composante à une étiquette lisible et définissable par l’humain.
Ces composantes vectorielles, désormais dotées d’une signification explicite, sont ensuite combinées avec des composantes entraînables non définies. L’ensemble est alors intégré et transmis à un modèle d’IA. Le projet se positionne comme une initiative de conception de données (« data design project ») axée sur la transparence des représentations internes des modèles.
En offrant une meilleure visibilité sur les dimensions que les modèles utilisent pour comprendre les mots, Concept-Vector pourrait potentiellement améliorer la transparence et le contrôle sur le fonctionnement des systèmes d’IA, ouvrant des perspectives pour des développements plus explicables.
Source : Reddit r/MachineLearning