Une nouvelle approche de défense contre le « poisoning » lors du fine-tuning des modèles d’intelligence artificielle a été proposée, visant à rendre certaines mises à jour malveillantes inaccessibles.
Actuellement, les stratégies de protection contre l’empoisonnement des données lors de l’ajustement fin des modèles cherchent souvent à identifier les données nuisibles ou à en atténuer l’impact. Cependant, ces méthodes ne garantissent pas toujours une protection complète contre les altérations.
La recherche explore une question différente : et si le modèle ne pouvait tout simplement pas apprendre certaines mises à jour malveillantes ? L’idée consiste à restreindre le fine-tuning à un sous-espace d’apprentissage défini par des adaptateurs LoRA (Low-Rank Adaptation) de confiance.
Cette contrainte permet une adaptation utile du modèle tout en rendant certaines directions malveillantes géométriquement inatteignables. Par exemple, une entreprise ajustant un modèle sur de vastes ensembles de données utilisateurs pourrait ainsi mieux se prémunir contre des altérations indésirables. Cette approche ouvre des perspectives pour une meilleure robustesse des modèles face aux tentatives d’altération.
Source : Reddit r/MachineLearning