Le pape met en garde contre l'IA

Dans sa première encyclique, publiée lundi, le pape Léon XIII a exhorté les gouvernements à ralentir et à réglementer strictement le développement de l'intelligence artificielle.

Il a averti que ces systèmes diffusent de la désinformation, favorisent les conflits et pourraient entraîner le monde vers une guerre sans fin, semblant ignorer que cette situation existe déjà sans l'intelligence artificielle.

Lors de la présentation du texte au Vatican, le premier pape américain a également exprimé son inquiétude face aux armes autonomes. Il a estimé que certaines ont progressé pratiquement au-delà de toute capacité de contrôle humain. Le cofondateur d'Anthropic, Chris Olah, était présent lors de l'événement.

Dans ce document de près de 43 000 mots, intitulé Magnifica Humanitas, Léon XIII appelle à une propriété des données qui ne soit pas exclusivement privée. Il demande la protection des travailleurs face aux transformations induites par l'IA. Il réclame également la protection des enfants ainsi qu'une modération de la concurrence entre entreprises d'IA.

Ce qu'il faut, c'est un engagement politique plus actif, capable de ralentir les choses alors que tout s'accélère, écrit-il.

Le pape demande également des cadres juridiques solides, une surveillance indépendante, des utilisateurs informés et un système politique qui n'abdique pas ses responsabilités.

Amen.