Un développeur a réussi à entraîner un réseau neuronal directement sur l’unité matricielle de l’Apple Neural Engine (ANE), démontrant une performance 6,3 fois supérieure à celle de PyTorch.
Cette initiative vise à démystifier l’ANE, souvent présenté par Apple comme un coprocesseur discret et mystérieux, une « boîte noire » aux spécifications impressionnantes (16 cœurs, 38 TOPS) mais dont le fonctionnement interne reste opaque au-delà de l’interface CoreML. L’auteur du projet Reddit affirme que cette simplification masque une réalité plus complexe et que certaines idées reçues sont erronées.
En interagissant directement avec l’unité matricielle de l’ANE, le développeur a mis en évidence le potentiel d’optimisation des charges de travail d’apprentissage automatique sur les puces Apple Silicon. Cette performance accrue suggère des voies pour des développements IA plus efficaces au sein de l’écosystème Apple, potentiellement en contournant les abstractions logicielles existantes.
Cette approche pourrait ouvrir de nouvelles perspectives pour l’exploitation des capacités matérielles d’Apple dans le domaine de l’intelligence artificielle.
Source : Reddit r/MachineLearning