OpenAI a annoncé lundi le déploiement de contrôles parentaux pour ChatGPT, sur le Web et mobile, à la suite d'une plainte déposée par les parents d'un adolescent californien qui s'est suicidé.
Le chatbot aurait, selon eux, fourni des conseils sur des méthodes d'automutilation.
Les nouvelles fonctionnalités permettent aux parents et adolescents de lier leurs comptes pour activer des paramètres de sécurité renforcés. L'activation nécessite une invitation acceptée par les deux parties.
Parmi les options disponibles :
- Réduction de l'exposition aux contenus sensibles
- Contrôle de la mémoire des conversations
- Blocage de l'utilisation des échanges pour l'entraînement des modèles
- Définition de plages horaires de silence
- Désactivation du mode vocal et des fonctions d'image
OpenAI précise que les parents n'auront pas accès aux transcriptions des conversations, sauf en cas de risque grave détecté par les systèmes ou les examinateurs humains. Dans ces situations, seuls les éléments nécessaires à la sécurité de l'adolescent seront communiqués.
L'entreprise, soutenue par Microsoft, indique également travailler sur un système de prédiction d'âge pour adapter automatiquement les paramètres aux utilisateurs de moins de 18 ans.
-
1
-
1
-
1
-
1
-
2
