Contenus sensibles : l'IA investit des dizaines de millions pour éviter le dérapage

Face à l'essor des usages créatifs et à un cadre réglementaire de plus en plus strict, OpenAI et xAI ont accru leurs investissements dans les technologies de classification, de modération et de génération contrôlée de contenus sensibles.

Ces efforts visent à encadrer les zones grises - contenus suggestifs, romantiques ou érotisés non explicites - sans produire de contenu adulte.

Selon des sources industrielles citées par la presse américaine, OpenAI a consacré 60 à 90 millions de dollars depuis 2024 au renforcement de ses équipes de sécurité et au développement de modèles capables de distinguer nudité artistique, contenu suggestif ou fiction romantique. L'entreprise a également amélioré ses filtres de génération et intégré des systèmes de marquage numérique pour prévenir les deepfakes non consentis. Ses dépenses cloud liées à la modération automatisée atteindraient 10 à 15 millions de dollars par an.

XAI, pour sa part, investit entre 25 et 40 millions de dollars dans des modèles capables de gérer des contenus suggestifs tout en intégrant des garde‑fous techniques. Les fonds couvrent le développement de classifieurs internes, des outils de traçabilité, des systèmes de détection de deepfakes et des infrastructures GPU dédiées. L'objectif : attirer les utilisateurs séduits par les modèles open source permissifs, tout en limitant les risques juridiques.

Tous les industriels maintiennent une interdiction stricte du contenu pornographique explicite. Les investissements portent exclusivement sur la modération, la classification, la génération contrôlée et la prévention des abus.