Une publication récente propose une nouvelle perspective sur les réseaux de neurones hamiltoniens (HNN), en les abordant sous l’angle de la géométrie différentielle.
Ce travail, partagé sur un blog d’entreprise, vise à éclairer le « pourquoi » de ces modèles, développés notamment par Greydanus et al. en 2019, au-delà de la simple présentation de leur fonction de perte habituelle. L’auteur, ayant travaillé plusieurs années sur des sujets liés aux HNN et aux réseaux de neurones lagrangiens (LNN), estime que cette lentille conceptuelle rend leur fonctionnement plus intuitif.
Cette approche met en lumière des principes fondamentaux, tels que ceux liés au théorème de Noether [À VÉRIFIER], qui sous-tendent la conception des HNN. Elle offre une compréhension plus profonde des mécanismes internes de ces architectures, souvent utilisées pour modéliser des systèmes physiques avec des propriétés de conservation.
Cette exploration par la géométrie différentielle pourrait ainsi enrichir la conception et l’analyse des futurs modèles d’IA inspirés de la physique.
Source : Reddit r/MachineLearning