La IA se suma a la lista de desafíos globales en la agenda de la reunión de la ONU

La inteligencia artificial se suma a la lista de grandes y complejos desafíos globales que los líderes y diplomáticos mundiales abordarán en la reunión anual de alto nivel de las Naciones Unidas de esta semana.

Desde que comenzó el auge de la IA con el debut de ChatGPT hace unos tres años, las impresionantes capacidades de esta tecnología han asombrado al mundo. Las empresas tecnológicas se han apresurado a desarrollar sistemas de IA más grandes y mejores, incluso mientras los expertos advierten sobre sus riesgos, incluyendo amenazas existenciales como pandemias artificiales y desinformación a gran escala, y exigen medidas de protección.

La adopción por parte de la ONU de una nueva arquitectura de gobernanza es el esfuerzo más reciente y de mayor envergadura para frenar la IA. Iniciativas multilaterales anteriores, incluidas tres cumbres sobre IA organizadas por el Reino Unido, Corea del Sur y Francia, solo han dado como resultado compromisos no vinculantes.

El mes pasado, la Asamblea General adoptó una resolución para establecer dos organismos clave sobre IA (un foro global y un panel científico independiente de expertos), en un paso histórico para guiar los esfuerzos de gobernanza global para la tecnología.

El miércoles, una reunión del Consejo de Seguridad de la ONU convocará un debate abierto sobre este tema. Entre las preguntas que se abordarán se encuentran: ¿Cómo puede el Consejo contribuir a garantizar la aplicación responsable de la IA para cumplir con el derecho internacional y apoyar los procesos de paz y la prevención de conflictos?

Y el jueves, como parte de la reunión anual del organismo, el Secretario General de la ONU, António Guterres, celebrará una reunión para lanzar el foro, llamado Diálogo Global sobre Gobernanza de IA.

Es un foro donde gobiernos y partes interesadas debaten sobre cooperación internacional e intercambian ideas y soluciones. Está previsto que se reúna formalmente en Ginebra el próximo año y en Nueva York en 2027.

Mientras tanto, se espera que comience el reclutamiento para encontrar 40 expertos para el panel científico, incluyendo dos copresidentes, uno de un país desarrollado y otro de un país en desarrollo. El panel ha sido comparado con el panel de cambio climático de la ONU y su emblemática reunión anual, la COP.

Los nuevos organismos representan "un triunfo simbólico". Son "con diferencia el enfoque más inclusivo a nivel mundial para gobernar la IA", escribió Isabella Wilkinson, investigadora del centro de estudios Chatham House, con sede en Londres, en una entrada de blog .

“Pero en la práctica, parece que los nuevos mecanismos serán prácticamente ineficaces”, añadió. Entre los posibles problemas está la capacidad de la lenta administración de la ONU para regular una tecnología de rápida evolución como la IA.

Antes de la reunión, un grupo de expertos influyentes pidió a los gobiernos que acordaran las llamadas líneas rojas para que la IA entre en vigor a finales del próximo año, diciendo que la tecnología necesita "barandillas mínimas" diseñadas para prevenir los "riesgos más urgentes e inaceptables".

El grupo, que incluye a altos funcionarios de OpenAI, creador de ChatGPT; DeepMind, laboratorio de investigación de IA de Google; y Anthropic, creador de chatbots, exige que los gobiernos firmen un acuerdo internacional vinculante sobre IA. Señalan que el mundo ya ha acordado tratados que prohíben las pruebas nucleares y las armas biológicas, y que protegen la alta mar.

“La idea es muy sencilla”, afirmó uno de los promotores, Stuart Russell, profesor de IA en la Universidad de California, Berkeley. “Al igual que hacemos con los medicamentos y las centrales nucleares, podemos exigir a los desarrolladores que demuestren su seguridad como condición para acceder al mercado”.

Russell sugirió que la gobernanza de la ONU podría parecerse al funcionamiento de otro organismo afiliado a la ONU, la Organización de Aviación Civil Internacional, que se coordina con los reguladores de seguridad en diferentes países y se asegura de que todos trabajen en la misma página.

Y en lugar de establecer un conjunto de reglas inamovibles, los diplomáticos podrían elaborar una “convención marco” que sea lo suficientemente flexible como para actualizarse y reflejar los últimos avances en IA, dijo.