Un nouvel outil nommé `swm` a été développé pour simplifier l’installation et la gestion des frameworks d’IA comme ComfyUI, Ollama et OpenWebUI sur des GPU cloud.
Les développeurs ont souvent rencontré la même difficulté : la nécessité de réinstaller intégralement leurs environnements de travail, incluant les nœuds personnalisés, les modèles et les configurations, à chaque nouvelle location de GPU. Cette tâche pouvait prendre jusqu’à 45 minutes par session, compliquée par des images Docker obsolètes et des bases différentes selon les fournisseurs de services cloud.
Pour résoudre ce problème de portabilité et de persistance, l’outil `swm` permet désormais d’installer ces frameworks en une seule commande. Il assure la sauvegarde complète de la configuration entre les sessions, éliminant ainsi les réinstallations répétitives. `swm` est compatible avec divers fournisseurs de GPU cloud, tels que RunPod et Vast, et peut afficher les options les moins chères disponibles.
Par exemple, une commande comme `swm gpus -g a100 –max-price 2.00 –sort price` permet de lister les GPU A100 les plus abordables. Cette approche vise à optimiser l’efficacité des flux de travail pour les utilisateurs de l’IA, en réduisant le temps de configuration et en augmentant la flexibilité d’utilisation des ressources cloud.
Source : Reddit r/MachineLearning