Environ 400 scientifiques, dont les pionniers de l'IA Geoffrey Hinton et Yoshua Bengio, ont appelé mardi à la création d'un organisme international chargé de superviser les normes de confinement et le signalement des incidents pour les systèmes d'IA avancés dotés de capacités cybernétiques face aux risques de l'intelligence artificielle.
L'organisme proposé établirait des normes de confinement à l'échelle de l'industrie et tiendrait un registre des incidents de sécurité importants, que les scientifiques souhaitent voir rendu public à terme.
Dans une lettre ouverte, les chercheurs estiment que les modèles d'IA de pointe devraient dans un premier temps être isolés des réseaux externes et soumis à une surveillance indépendante. Ils jugent que les engagements volontaires de l'industrie ne suffisent pas.
Cette initiative intervient un mois après un accord signé à la Maison Blanche par Anthropic, Anthropic, OpenAI, OpenAI, Google, Meta, xAI et Nvidia. Les entreprises s'y sont engagées à prendre des mesures de sécurité volontaires, sans mécanisme formel d'application.
-
12
-
4
-
17
-
2
-
2
Pour lire les commentaires et participer, vous devez vous identifier.
Connectez-vous ou devenez membre pour participer et profiter d'autres avantages.
