La demande pour l’inférence rapide en intelligence artificielle ne montre aucun signe de ralentissement, a affirmé Eric Vishria, associé chez Benchmark, lors d’une intervention sur Bloomberg Tech. Cette tendance souligne la pression continue sur les infrastructures informatiques.
Les entreprises font face à des contraintes croissantes concernant la puissance de calcul, allant de la mémoire et de l’alimentation électrique aux goulets d’étranglement dans la production de puces. Ces défis physiques sont au cœur des préoccupations actuelles du secteur de l’IA.
L’espace physique de l’IA, englobant le matériel et l’infrastructure nécessaire au déploiement des modèles, est donc au centre des stratégies d’investissement et de développement.
Source : Bloomberg Technology