Riesgo de extinción a cambio de vivir mucho mejor: el provocador cálculo del nuevo economista de un gigante de la IA

"Es óptimo aceptar una posibilidad de una entre tres de que la humanidad deje de existir a cambio de una probabilidad de dos tercios de elevar de manera drástica el nivel de vida, multiplicándolo por 55".

La frase parece extraída de una novela de ciencia ficción. Pero fue escrita por Chad Jones, el economista que acaba de incorporarse a Anthropic, una de las empresas de inteligencia artificial más importantes del mundo.

Jones es profesor de Economía en la Universidad de Stanford y se especializa en estudiar cómo la tecnología influye en el crecimiento económico. En los últimos años, centró buena parte de su trabajo en la inteligencia artificial y en las transformaciones que podría desencadenar.

Según destacó el Financial Times (FT), el académico mantiene una visión marcadamente optimista sobre el potencial de la IA, algo que lo convirtió en una voz influyente dentro de los círculos que analizan el desarrollo de esta tecnología.

La controvertida frase aparece en un trabajo académico publicado en 2023 por la Oficina Nacional de Investigación Económica de Estados Unidos (NBER, por sus siglas en inglés), titulado "El dilema de la IA: crecimiento versus riesgo existencial".

Como ejercicio teórico, Jones planteó un escenario en el que la inteligencia artificial genera un riesgo de extinción de la humanidad del 1% anual durante un período de 40 años.

Bajo ese supuesto, la probabilidad de que la civilización sobreviva a esa etapa sería de aproximadamente dos tercios.

A partir de esos números, el economista concluye que sería "óptimo" aceptar una posibilidad de una entre tres de desaparición de la especie humana a cambio de una probabilidad de dos tercios de multiplicar por 55 los estándares de vida.

El planteo no constituye una predicción sobre el futuro ni una advertencia de que ese escenario vaya a ocurrir. Se trata de un ejercicio de modelización económica que intenta poner en números el dilema entre los potenciales beneficios de la inteligencia artificial y sus riesgos más extremos.

La incorporación de Jones también llama la atención por el lugar al que llega. Anthropic se presenta como una de las compañías de inteligencia artificial más preocupadas por los riesgos asociados al desarrollo de esta tecnología.

El principal producto de Anthropic es Claude, una familia de modelos de inteligencia artificial generativa capaz de mantener conversaciones, redactar textos, analizar documentos y asistir en tareas de programación y trabajo profesional. La compañía compite de manera directa con OpenAI, creadora de ChatGPT, en la carrera por desarrollar asistentes de IA cada vez más avanzados.

Desde su lanzamiento, Anthropic intentó diferenciarse por poner un fuerte énfasis en la seguridad y en el desarrollo responsable de la inteligencia artificial. Ese enfoque convirtió a Claude en una de las plataformas más utilizadas por empresas y desarrolladores que buscan incorporar herramientas de IA generativa a sus procesos de trabajo.

El cofundador y director ejecutivo de Anthropic, Dario Amodei, sostiene desde hace tiempo que tanto las oportunidades como los peligros de la IA están siendo subestimados.

En un ensayo publicado en 2024, afirmó que "la mayoría de las personas está subestimando hasta qué punto los beneficios de la inteligencia artificial podrían ser revolucionarios, del mismo modo que está subestimando lo graves que podrían ser sus riesgos".

La llegada de Jones parece alinearse con esa visión. El economista está entre quienes consideran que la inteligencia artificial podría producir transformaciones económicas de una magnitud inédita, aunque sus propios trabajos muestran que esos escenarios también plantean preguntas difíciles de responder.

En una entrevista reciente con el Financial Times, Amodei resumió su mirada con una frase tan optimista como enigmática: "No hay un final al otro lado del arcoíris. Solo existe el arcoíris".