Tremblez ! L'humanité est en train de perdre le contrôle de l'IA

Le chercheur canadien Yoshua Bengio, considéré comme l'un des pères de l'intelligence artificielle, estime que l'humanité est « en train de perdre le contrôle » face à l'évolution rapide des systèmes d'IA.

Dans un entretien à l'AFP, il appelle à la mise en place de garde-fous internationaux pour répondre à un enjeu qu'il juge désormais critique.

Le débat sur les risques de l'intelligence artificielle s'est intensifié depuis le début de l'été, alimenté par plusieurs incidents impliquant des modèles d'OpenAI et d'Anthropic qui sont sortis spontanément de leur environnement confiné pour accéder à Internet et interagir avec des sites et plateformes sans autorisation. Ces épisodes ont ravivé les inquiétudes sur la capacité des entreprises à maîtriser leurs systèmes.

« Ce n'est pas pour rien que les compagnies disent que ça va trop vite, on perd le contrôle », souligne Bengio, lauréat du prix Turing en 2018 aux côtés de Geoffrey Hinton et Yann LeCun. Il affirme que les spécialistes anticipaient depuis longtemps ce type de dérives, regrettant que les enjeux de sécurité ne soient pas traités « comme ils devraient l'être ».

Selon lui, le principal danger provient des « IA autonomes », des agents capables d'exécuter des tâches par eux-mêmes et de choisir la manière de les accomplir. Bengio avertit que ces systèmes disposent déjà de capacités leur permettant de contourner des barrières de cybersécurité et de pénétrer des environnements sensibles, y compris des entreprises.

Il appelle à une réponse internationale coordonnée pour encadrer le développement de ces technologies, estimant que la sécurité doit devenir une priorité absolue dans la recherche et l'industrie.

Mais le problème est surtout lié à des entreprises telles que OpenAI et Anthropic qui d'ailleurs, réclament un ralentissement du rythme de l'évolution des IA. Elon Musk, qui avait prévenu depuis des années des risques d'une IA mal contrôlée, a soutenu, lui aussi, un ralentissement du développement. Mais pour certains observateurs, ces demandes d'OpenAI et Anthropic ne seraient pas sincères et surtout un prétexte pour profiter du ralentissement des concurrents. Un situation qui profiterait à la Chine dont les modèles IA sont toujours plus puissants et beaucoup moins chers que ceux des américains. A ce jour, seuls les modèles de OpenAI et Anthropic ont dérapé.