¿Puede la IA escapar del control humano?

Max Tegmark, profesor de inteligencia artificial (IA) e investigación en física en el MIT, afirma que después de realizar cálculos, ha descubierto una probabilidad del 90% de que una IA muy avanzada pueda suponer una amenaza existencial. En un artículo publicado conjuntamente con tres estudiantes , los autores recomiendan que las empresas de IA utilicen la ecuación del efecto Compton (creada por el físico estadounidense Arthur Compton, que sirvió de base a los cálculos de Robert Oppenheimer para la prueba Trinity, que precedió a la bomba atómica en 1945) para abordar las preocupaciones de seguridad.

Según Tegmark, el cálculo da como resultado la probabilidad de que una IA muy avanzada, con poderes generales superiores a la inteligencia humana, pueda escapar al control humano. El experto, que preside el Future of Life Institute, una organización sin fines de lucro que quiere que la tecnología evolucione en beneficio de la humanidad, advierte que las organizaciones que utilizan IA deberían realizar los mismos cálculos antes de optar por sistemas de superinteligencia.

Los resultados fueron publicados por The Guardian y el experto reaccionó a través de las redes sociales. “Si los investigadores de las empresas y los países recalculan esta constante y coinciden en que es demasiado alta, habrá voluntad política para imponer estándares de seguridad”, afirmó.

En noviembre, Tegmark estuvo en Lisboa para el Web Summit y habló con Observador sobre los estándares de seguridad que considera necesarios. Cualquier industria tiene estándares de seguridad, ¿verdad? Si quieres abrir un restaurante, estoy seguro de que la ciudad de Lisboa también los tiene. No se pueden tener ratas en la cocina ni nada parecido. Lo más importante es que existan estándares de seguridad. Y para determinar cuáles deberían ser, necesitas contar con expertos en IA y dejar que se comuniquen entre sí; seguro que encontrarán una solución.