Chercheurs et cadres de l'IA réclament un cadre réglementaire international

Des dizaines de chercheurs et cadres du secteur de l'intelligence artificielle ont publié lundi un appel commun à l'instauration d'un cadre réglementaire international fixant des limites à l'utilisation de l'IA pour prévenir des effets dévastateurs pour l'humanité.

«L'IA possède un potentiel immense pour le bien-être de l'humanité, mais sa trajectoire actuelle présente des dangers sans précédent», ont écrit les signataires dans une lettre publiée alors que s'ouvre, à New York, l'assemblée générale des Nations unies. Ils réclament une collaboration entre dirigeants pour parvenir à des «accords internationaux sur des lignes rouges pour l'IA», des limites fixées aux grands acteurs de l'intelligence artificielle dans le développement de cette technologie.

Passer la publicité

Il s'agit de «garde-fous minimaux», «le “plus petit dénominateur commun” sur lequel devraient s'entendre les gouvernements pour contenir les risques les plus imminents et inacceptables», expliquent les organisateurs de l'initiative. Ces derniers sont le Centre pour la sécurité de l'IA (CeSIA), entité française, ainsi que The Future Society et le Centre pour IA humano-compatible de l'université de Berkeley, soutenus par 20 organismes partenaires. «L'IA pourrait bientôt largement surpasser les aptitudes humaines et accroître certains risques tels que le déclenchement de pandémies, la propagation de la désinformation, (...) des problèmes de sécurité nationale, le chômage de masse ou les violations de droits humains», préviennent les signataires.

Parmi eux figurent des acteurs de l'industrie, comme Jason Clinton, chef de la sécurité informatique d'Anthropic, l'un des fleurons du secteur, et certains de ses collaborateurs, mais aussi plusieurs employés de DeepMind, filiale IA de Google, ou OpenAI. La liste comprend aussi Geoffrey Hinton, prix Nobel de physique en 2024 et considéré comme l'un des pères de l'IA moderne, et Yoshua Bengio, professeur à l'université de Montréal et parmi les personnalités les plus influentes du milieu. La plupart des grands acteurs du secteur cherchent à développer l'intelligence artificielle générale (AGI), stade auquel l'IA égalerait toutes les capacités intellectuelles des humains, mais aussi la «superintelligence», qui la verrait aller au-delà.

Les auteurs de la lettre font valoir que des accords internationaux ont déjà été trouvés dans le cas de technologies considérées comme dangereuses pour toute ou une partie de l'humanité. C'est le cas, par exemple, du traité sur la non-prolifération des armes nucléaire (TNP, 1970) ou du protocole de Genève (1925) bannissant l'utilisation des armes chimiques, prolongé par la Convention sur l'interdiction des armes chimiques (CIAC), entrée en vigueur en 1997.