Un ingénieur logiciel d’une grande entreprise de fintech américaine s’interroge sur l’intégration des systèmes d’IA et d’apprentissage automatique avec les données de production sensibles, notamment dans les secteurs de la finance et de la santé.
Au cours des douze derniers mois, cette entreprise a fortement encouragé ses développeurs à utiliser l’IA et la programmation agentique. L’adoption a progressé, débutant par l’intégration de l’IA directement dans les environnements de développement (IDE), puis par l’utilisation d’instances Coder Space avec des agents cloud, et s’étendant désormais à la remédiation des vulnérabilités de code.
Cette évolution soulève des questions cruciales au-delà de la simple productivité des développeurs. L’ingénieur met en lumière les défis liés à l’intégration de ces systèmes ML/IA dans des environnements de production réels. La gestion des données sensibles est une préoccupation majeure, particulièrement dans des domaines comme la fintech et la santé.
Les interrogations portent sur le devenir de ces données : où vont-elles une fois traitées par l’IA ? Et peut-on réellement en comprendre le sens ou le cheminement au sein de ces systèmes complexes ? Ces questions soulignent la nécessité d’une réflexion approfondie sur la gouvernance des données et la transparence des algorithmes.
Source : Reddit r/MachineLearning