Les géants de la tech investissent 10 millions de dollars pour rendre l'IA plus sûre

Les sociétés Anthropic, Google, Microsoft et OpenAI annoncent la nomination de Chris Meserole (sur la photo) en tant que premier directeur exécutif du Frontier Model Forum, un organisme de l'industrie axé sur la garantie du développement et de l'utilisation sûrs et responsables des modèles d'IA de pointe à l'échelle mondiale.

Meserole apporte une grande expérience en matière de politique technologique, ayant travaillé de manière approfondie sur la gouvernance et la sécurité des technologies émergentes et de leurs applications futures.

Par ailleurs, le Forum, en collaboration avec des partenaires philanthropiques, la Fondation Patrick J. McGovern, la Fondation David et Lucile Packard, Eric Schmidt et Jaan Tallinn, s'engage à hauteur de plus de 10 millions de dollars pour un nouveau fonds de sécurité de l'IA visant à faire progresser la recherche sur le développement continu des outils pour permettre à la société de tester et d'évaluer efficacement les modèles d'IA les plus performants.

Le fonds se concentrera principalement sur le soutien au développement de nouvelles évaluations de modèles et de techniques de red teaming pour les modèles d'IA afin de développer et de tester des techniques d'évaluation des capacités potentiellement dangereuses des systèmes de pointe.