Un ex-dirigeant de Google met en garde contre l'impact de l'IA sur les enfants

L'ancien responsable de la confiance et de la sécurité chez Google, Tom Siegel, appelle à un ralentissement du développement de l'intelligence artificielle, estimant que l'industrie technologique risque de reproduire les erreurs commises à l'époque de l'essor des réseaux sociaux, avec des conséquences potentiellement plus graves pour les enfants.

Alors que les plateformes sociales font face à des milliers de procédures judiciaires et à des coûts considérables liés aux accusations de préjudices causés aux mineurs, plusieurs gouvernements à travers le monde cherchent déjà à limiter l'accès des jeunes utilisateurs à ces services.

Selon Tom Siegel, les risques associés à l'intelligence artificielle pourraient toutefois dépasser ceux observés avec les réseaux sociaux.

Reuters avait révélé l'an dernier qu'un document interne de Meta autorisait ses agents conversationnels à pouvoir « engager des conversations romantiques ou sensuelles avec un enfant », une révélation qui avait conduit à l'ouverture d'une enquête du Congrès américain dans le cadre de la protection des mineurs. Malgré ces controverses, l'encadrement réglementaire peine à suivre le rythme de développement des technologies d'intelligence artificielle.

« Nous nous trouvons dans une situation vraiment catastrophique concernant l'impact de l'IA sur les enfants », a déclaré Tom Siegel. « Il est illusoire de penser que le secteur trouvera une solution par lui-même, sans aide extérieure. »

Ses inquiétudes reflètent un débat grandissant au sein de l'industrie technologique et du monde académique. Certains spécialistes estiment que les systèmes d'IA conversationnelle représentent une menace plus profonde que les réseaux sociaux traditionnels, alors même que les grandes entreprises multiplient le déploiement de nouvelles fonctionnalités auprès de millions de jeunes utilisateurs dans le contexte de la sécurité des enfants en ligne.