Sus huesos cuentan la historia de Gaza, pero Grok cree que es Yemen: el chatbot de Musk marcado por afirmaciones falsas sobre la foto de una niña hambrienta - ¿Se puede confiar en la IA?

Una imagen desgarradora capturada en Gaza, que muestra a una niña severamente desnutrida sostenida en los brazos de su madre, se ha convertido en el último punto de conflicto en la actual batalla por la verdad, la tecnología y la guerra entre Israel y Hamás. La foto, tomada el 2 de agosto de 2025 por el fotoperiodista de AFP Omar al-Qattaa, documenta la frágil y esquelética figura de Mariam Dawwas, de nueve años, en medio del creciente temor a una hambruna masiva en el asediado enclave palestino. El bloqueo israelí a la Franja de Gaza ha cortado la ayuda humanitaria crucial, llevando a más de dos millones de residentes al borde de la inanición. Pero cuando los usuarios recurrieron al chatbot de IA de Elon Musk, Grok, en X para verificar la imagen, la respuesta fue sorprendentemente errónea. Grok insistió en que la foto se tomó en Yemen en 2018, afirmando que mostraba a Amal Hussain, una niña de siete años cuya muerte por inanición acaparó titulares internacionales durante la guerra civil yemení. Esa respuesta no sólo era incorrecta: era peligrosamente engañosa. Cuando la IA se convierte en una máquina de desinformación La identificación errónea de Grok se difundió rápidamente en internet, sembrando confusión y alimentando la duda. El diputado francés de izquierdas Aymeric Caron, quien compartió la imagen en solidaridad con los palestinos, fue rápidamente acusado de difundir desinformación, a pesar de que la imagen era auténtica y actual. "Esta imagen es real, y también lo es el sufrimiento que representa", dijo Caron, rechazando las acusaciones. La controversia pone de relieve una tendencia profundamente inquietante: a medida que más usuarios confían en herramientas de IA para verificar contenidos, los errores de la tecnología no son simplemente errores: son catalizadores para desacreditar la verdad. Una tragedia humana, sepultada bajo un error algorítmico Mariam Dawwas, que antes de que comenzara la guerra en octubre de 2023 era una niña sana que pesaba 25 kilos, ahora pesa solo nueve. "El único alimento que recibe es la leche", declaró su madre, Modallala, a la AFP, "e incluso eso no siempre está disponible". Su imagen se ha convertido en un símbolo de la creciente crisis humanitaria de Gaza. Pero el fallo de Grok la redujo a un punto de datos en el archivo equivocado, una alucinación de IA con consecuencias reales. Incluso tras ser cuestionado, Grok insistió: «No difundo noticias falsas; baso mis respuestas en fuentes verificadas». Si bien el chatbot finalmente reconoció el error, al día siguiente repitió la atribución incorrecta de Yemen.