Los verdaderos problemas que nos aguardan en la inteligencia artificial: mirar más allá de la ética

Como mencioné en mis tres últimos artículos, cuando se habla de inteligencia artificial, suelen venir a la mente cuestiones éticas: como la justicia, los prejuicios y la privacidad. Sin embargo, la tecnología avanza no solo dentro de un marco moral, sino que también abarca un panorama sociotécnico mucho más amplio. Dentro de este panorama, aún existen desafíos técnicos, sociales y psicológicos pendientes de solución. Esta semana, comencemos examinando los verdaderos desafíos que enfrenta la IA "más allá de la moral".

» SOCIAL SHAKERS: ¿CUÁNTO PUEDE APORTAR LA TECNOLOGÍA A LA SOCIEDAD?

El auge de la inteligencia artificial está exponiendo las fallas invisibles de la sociedad. Una de las mayores preocupaciones es su impacto en la fuerza laboral, un tema largamente debatido. Los sistemas de IA que automatizan tareas rutinarias representan una amenaza particular para los trabajadores poco cualificados. Manish Rana y sus colegas (2024) enfatizan que esta transformación podría «reconfigurar drásticamente la estructura laboral de la sociedad». La fuerza laboral se está transformando no solo en cantidad, sino también en calidad. Esto crea un riesgo de exclusión para quienes no pueden adaptarse a nuevos empleos. Quiero reiterar lo que he dicho a menudo en artículos y entrevistas anteriores: la IA no te quitará el trabajo; quienes no se adapten a la nueva era de la IA y quienes no la utilicen se quedarán desempleados.

Además, no solo las empresas están cambiando, sino también el equilibrio de poder. Las grandes empresas tecnológicas se están convirtiendo en rivales casi absolutos de los gobiernos con los datos y la infraestructura que poseen. Esta situación plantea la cuestión de la soberanía de los datos y la independencia digital. Venni Krishna (2023) argumenta que esta concentración de poder podría erosionar el control democrático sobre las sociedades a largo plazo.

» EFECTOS PSICOLÓGICOS: ¿DÓNDE AMORA EL HUMANO?

Los sistemas de inteligencia artificial están transformando no solo los empleos, sino también las relaciones. Se están creando nuevos tipos de conexiones entre las personas mediante asistentes inteligentes, chatbots e incluso robots de apoyo emocional. ¿Son estas conexiones genuinas o ilusorias? Cada vez más personas esperan respuestas de los sistemas de IA, pero estos carecen de una verdadera comprensión. Esto crea una paradoja psicológica: un sistema con una conexión emocional, pero sin consciencia.

Esto se denomina «falacia emocional». Jess Whittlestone y Clarke (2022) señalan que aún se desconocen los efectos a largo plazo de las conexiones con la IA, en particular para las personas que experimentan soledad, trauma o privación emocional. En este contexto, la transformación de la IA en una tecnología emocional, en lugar de meramente cognitiva, genera un importante debate ético y psicológico.

» DILEMAS TÉCNICOS: CONOCIMIENTO, NO COMPRENSIÓN

La IA aún enfrenta numerosos desafíos técnicos. Como señalan Rana et al. (2024):

Los modelos requieren una gran cantidad de datos, lo que genera altos costos y problemas de acceso.

Incluso si los sistemas funcionan muy bien en un área, no pueden generalizarse. Son vulnerables a posibles ataques (ataques adversarios).

Los procesos de toma de decisiones siguen siendo "cajas negras", lo que significa que no son transparentes para los humanos. Interactuamos con sistemas cuyo funcionamiento desconocemos.

Así pues, aunque la IA posee una increíble capacidad computacional, aún no comprende su entorno. Puede hacer un diagnóstico mucho más preciso que los médicos de un hospital, pero aún no puede entender por qué llora un niño.

» INCERTIDUMBRES JURÍDICAS: ¿QUIÉN ES EL RESPONSABLE?

¿Quién asume la responsabilidad de la decisión errónea de un sistema de IA? ¿El desarrollador, el usuario o el sistema? Perc et al. (2019) señalan que «los límites de la responsabilidad legal se han difuminado en lo que respecta a los daños causados por la IA». En muchos ámbitos, desde los vehículos automatizados hasta los sistemas de reconocimiento facial, la actualización del panorama legal es inevitable.

Esto nos lleva a una pregunta fundamental: ¿Debería la IA considerarse persona? Esta pregunta se mantiene en el plano filosófico, pero sus repercusiones ya se sienten en el ámbito jurídico.

CONCLUSIÓN

La inteligencia artificial no es solo una tecnología; es el umbral de una era. Y para cruzar ese umbral, necesitamos no solo computadoras más potentes, sino una comprensión social, psicológica y técnica más profunda. La cuestión no es solo moral; también está entrelazada con la cuestión de si es comprensible, responsable y humana.

Si, como sociedad, no afrontamos estas preguntas con valentía, podríamos acabar creando máquinas altamente inteligentes y perder nuestro sentido en su mundo. Les deseo a todos vidas plenas y que tengan una excelente semana.