ChatGPT renforce ses capacités de détection de la détresse psychologique

OpenAI a annoncé une mise à jour de son modèle par défaut de ChatGPT, visant à mieux détecter les signes de détresse psychologique et à orienter les utilisateurs vers une aide appropriée.

Cette évolution s'inscrit dans une volonté de renforcer la sécurité des interactions avec l'IA, en particulier dans les situations sensibles.

Développées en collaboration avec des experts en santé mentale ayant une expérience clinique, ces améliorations permettent au modèle de mieux reconnaître les signaux de détresse, de désamorcer les conversations à risque et de guider les utilisateurs vers des professionnels de santé lorsque cela est nécessaire.

Parmi les nouveautés : un accès élargi aux lignes d'assistance en cas de crise, une redirection automatique des conversations sensibles vers des modèles plus sûrs, et des rappels bienveillants incitant à faire des pauses lors de sessions prolongées.

OpenAI affirme vouloir faire de ChatGPT un espace de soutien, capable d'aider les utilisateurs à exprimer ce qu'ils ressentent, tout en les encourageant à se tourner vers leurs proches ou vers des professionnels de santé lorsque cela est nécessaire.

Toutefois, de plus en plus d'utilisateurs se plaignent de voir leurs demandes rejetées ou censurées, même celles complétement anodines, depuis la mise en place de ces surveillances des conversations. La pression sur ChatGPT et OpenAI est de plus en plus forte, les autres modèles gagnants du terrain, notamment Grok, l'IA de la xAI qui évolue à une vitesse impressionnante.