Los retos de la IA: ¿máquinas cada vez más alucinadas y nosotros cada vez más tontos?

Como si fuera el famoso duelo Garri Kasparov contra Deep Blue, hace un tiempo el escritor Patricio Pron se enfrentó a Chatgpt 4. El experimento, llamado Pron vs Prompt -era fácil esto- consistía en averiguar quién era más creativo y mejor contando historias, si el humano o la máquina. Se dispusieron 30 títulos a cada uno y a partir de ahí tenían que escribir un pequeño relato. Después fueron evaluados por 5.400 personas, entre críticos y académicos. El ganador abrumadoramente fue… el humano. “Pron le pegó una paliza a Gpt 4. En algunos casos fue hasta un 400% mejor. Así que por el momento nuestro honor está a salvo”.

Esta historia la contó este jueves Julio Gonzalo, catedrático y director del grupo de investigación en Procesamiento del Lenguaje Natural y Recuperación de Información en la UNED, en el 7º encuentro organizado por Arquia y El Confidencial que comanda Rubén Amón y que esta vez versó sobre la Inteligencia Artificial. Sus retos, sus creadores, los miedos que provoca y las fatales (o floridas) consecuencias que nos está trayendo ya.

“Se equivoca mucho Chagpt”, sentenció la periodista, escritora y colaboradora de El Confidencial, Marta García Aller, que recordó con humor cómo en un viaje a Pozoblanco la aplicación le había dicho que allí había nacido Paquirri. “Chatgpt no tiene pretensión de veracidad y no estamos acostumbrados a convivir con esto. Le estamos atribuyendo unas cualidades casi religiosas y se nos olvida que nos miente como también mentimos los humanos”, destacó la periodista en alusión a todos esos múltiples errores que pueden aparecer en numerosos textos que han echado mano de la IA. Por otra parte, también se refirió a los escandalosos chutes de narcisismo que nos provoca: “Como sucede con estas tecnologías, quieren que nos quedemos mucho tiempo por lo que nos dan la razón todo el tiempo. ¿Y quién no quiere que le den la razón en vez de decirle la verdad?”. La adulación constante, una cuestión que va directa a la salud mental de tantas personas “y muy peligrosa en los adolescentes y jóvenes”.

"Quieren que nos quedemos mucho tiempo por lo que nos dan la razón todo el tiempo"

Desde el punto de vista legal también la IA puede ser un disparate. Así lo recordó Violeta Arnáiz, directora de Propiedad Intelectual, IA y software en PONS IP, quien defendió la a veces criticada como hiperregulación de la Unión Europea en este asunto frente a otros países como EEUU o China muchísimo más libérrimos en el uso de la IA. “En la UE hay un reglamento que ya exige una serie de cuestiones. Por ejemplo, si una imagen está hecha con IA, se va a tener que advertir que ha sido así generado. Al igual que si para crear un texto también se ha usado”, explicitó.

Pero fue aún más allá con los usos que directamente en la UE están prohibidos y no así en otros países. Por ejemplo, en la UE la IA no puede emitir un veredicto para decidir si un preso sale de la cárcel por parámetros de conducta. Eso una máquina no lo puede sentenciar. En EEUU sí. También está prohibido aquí la valoración social a través de estas aplicaciones (Arnáiz rememoró un capítulo de Black Mirror que versa de esto). Es decir, que según tu puntuación de lo majo o agrio que eres te puedan dar o no una subvención o un préstamo. Eso en China ya está pasando.

“El mal siempre está ahí, pero la IA amplifica la capacidad de maldad del ser humano. En la UE somos más proteccionistas y más garantistas con los derechos de los ciudadanos. Claro, eso geopolíticamente es peor para Europa porque desarrollamos menos herramientas de IA, pero estamos más protegidos”, argumentó Arnaiz sobre estos reglamentos europeos.

Responsables

También se habló en el encuentro de los responsables de estas herramientas, que no son los Estados. Es más, ya hay empresas que generan esta tecnología con un volumen de negocio más alto que el PIB de muchos países. Y esas empresas tienen unos dueños que pueden ser más poderosos que cualquier líder de Gobierno. “El dueño de Oracle, Larry Ellison, es quien se ha quedado con Tik Tok en EEUU… y va a poder decidir quién gana las elecciones en EEUU. Cuando se dice que la tecnología es neutra… no es así. Al final quienes la controlan son seres humanos”, resaltó García Aller.

Y, además, ya está pasando algo con esta IA generativa y es que si cuando empezaron los primeros modelos no eran tan inteligentes como se suponía, ahora, como manifestó Gonzalo, están cada vez más alucinados. “En realidad nadie tiene el control… Porque tú le vas a dando a la máquina de comer… y ahora ya cada vez están más alucinadas… no es que sean menos inteligentes sino que alucinan mejor”, señaló. Así que no es que nos parezcan más tontas sino que como están hechas de copias, de copias, de copias de toda la información que le vamos metiendo”, comentó. Y ahí va un dato: ahora mismo la mitad de los documentos que pululan por internet ya han sido generados por IA. Es algo de lo que ya se está hablando y de lo que se puede dar cuenta cualquier usuario normal de Internet: encontrar información buena cada vez es más difícil. “Sí, todo se está llenando cada vez más de basura, así que los que nos dedicamos a esto de la información lo vamos a tener cada vez más difícil”, añadió García Aller.

Otra consecuencia que ya se está viendo es que la IA está bajando los parámetros de la capacidad de aprendizaje, de memorización y de lenguaje, según distintos estudios realizados en el ámbito educativo, señalaron los ponentes. Hay muchísimos trabajos de universidad, de instituto hechos con herramientas de IA. Y en las empresas. Eso sí, cantan. “Si ves un texto con mucho guión largo en vez de paréntesis, eso es IA”, apuntó García Aller. De ahí que estén volviendo las evaluaciones orales como único método para evitar el trampeo artificial.

Pero hay otros aspectos que tienen quizá peor solución: determinados puestos de trabajo. Arnáiz hizo alusión a su propia profesión, la de la abogacía: “Ya ha bajado un 15% la contratación de juniors en despachos de abogados. Se está sustituyendo el trabajo más rutinario, pero no tanto el de la gente con más experiencia”. Y esto tiene todas las papeletas que ocurra en unas cuantas profesiones más.

"Ya ha bajado un 15% la contratación de juniors en despachos de abogados. Se está sustituyendo el trabajo más rutinario"

Contratos editoriales con cláusulas de que no se puedan usar las herramientas de IA, nuevas normativas sobre el copyright con IA… Hay múltiples aspectos que está trastocando la inteligencia artificial desde el punto de vista empresarial, legal y, por supuesto, político. Y queda muchísimo por hacer, por ejemplo, con respecto a la responsabilidad. ¿Si la IA comete un accidente con resultado mortal, quién es el responsable?

Pero también los ponentes quisieron terminar con las consecuencias positivas de que dispongamos de estas herramientas, como son los avances médicos. “La IA consiguió la estructura de las proteínas del mundo animal y vegetal. Esto un potencial tremendo para nuevos medicamentos y más baratos”, manifestó Gonzalo. Ahora bien, no olvidemos algo, añadió García Aller: “Las IA no son listas porque a los seres humanos tampoco nos gustan los listos, no nos caen bien… así quizá nunca lleguen a ser del todo inteligentes”. Y nosotros seguramente tampoco.