OpenAI, l'entreprise à l'origine de ChatGPT, a annoncé une série de mesures visant à renforcer la sécurité de ses utilisateurs, notamment les adolescents, et à mieux répondre aux situations de détresse mentale.
Ces annonces interviennent dans un contexte de critiques croissantes sur la manière dont l'intelligence artificielle gère les conversations sensibles, notamment après plusieurs cas de suicide impliquant des jeunes utilisateurs.
Parmi les mesures phares, OpenAI prévoit de déployer dans les 30 prochains jours des contrôles parentaux permettant aux familles de superviser l'usage de ChatGPT par les adolescents dès 13 ans. Les parents pourront :
- Lier leur compte à celui de leur enfant via une invitation par e-mail
- Définir des règles de comportement adaptées à l'âge, activées par défaut
- Désactiver certaines fonctionnalités comme la mémoire ou l'historique des conversations
- Recevoir des alertes si le système détecte un moment de détresse aiguë chez l'adolescent
L'entreprise prévoit également de rediriger automatiquement certaines conversations sensibles vers des modèles dits de « raisonnement », comme GPT‑5-thinking, conçus pour mieux respecter les consignes de sécurité et résister aux sollicitations malveillantes. Un système de routage en temps réel permettra d'identifier les échanges à risque et d'activer ces modèles plus robustes.
-
1
-
1
-
1
-
2
