OpenAI aurait abandonné le développement d’un modèle d’intelligence artificielle, citant des préoccupations de sécurité liées à sa faible aptitude à suivre les instructions. Cette information, rapportée par TechCrunch AI, s’appuie sur les déclarations d’un cadre supérieur du laboratoire d’IA au Wall Street Journal.
Le modèle en question aurait démontré une difficulté à exécuter les commandes données, un aspect critique pour la fiabilité et la sûreté des systèmes d’IA. Cette décision souligne l’importance croissante de l’alignement des modèles avec les intentions humaines, un défi majeur pour l’industrie.
L’incident met en lumière les défis persistants dans le développement d’IA avancées, où la capacité à contrôler précisément le comportement des systèmes reste une priorité majeure pour les entreprises du secteur. La prudence d’OpenAI reflète une prise de conscience des risques potentiels.
Il reste à voir comment ces considérations de sécurité influenceront les futures stratégies de développement et de déploiement d’OpenAI.
Source : TechCrunch AI