Ses os racontent l'histoire de Gaza, mais Grok pense que c'est le Yémen : Le chatbot de Musk signalé pour de fausses déclarations sur la photo d'une fille affamée - Peut-on faire confiance à l'IA ?

Une image poignante capturée à Gaza, montrant une jeune fille gravement mal nourrie tenue dans les bras de sa mère, est devenue le dernier point d'éclair dans la bataille en cours sur la vérité, la technologie et la guerre entre Israël et le Hamas. La photo, prise le 2 août 2025 par le photojournaliste de l'AFP Omar al-Qattaa, illustre la silhouette fragile et squelettique de Mariam Dawwas, neuf ans, alors que les craintes d'une famine massive grandissent dans l'enclave palestinienne assiégée. Le blocus israélien de la bande de Gaza a interrompu l'aide humanitaire essentielle, poussant plus de deux millions d'habitants au bord de la famine. Mais lorsque les utilisateurs se sont tournés vers Grok, le chatbot d'Elon Musk, sur X pour vérifier l'image, la réponse a été étonnamment erronée. Grok a insisté sur le fait que la photo avait été prise au Yémen en 2018, affirmant qu'elle représentait Amal Hussain, une fillette de sept ans dont la mort de faim a fait la une des journaux internationaux pendant la guerre civile yéménite. Cette réponse n’était pas seulement incorrecte, elle était dangereusement trompeuse. Quand l'IA devient une machine à désinformation L'identification erronée de Grok s'est rapidement répandue en ligne, semant la confusion et alimentant le doute. Le député français de gauche Aymeric Caron, qui avait partagé l'image en solidarité avec les Palestiniens, a été rapidement accusé de diffusion de désinformation, alors même que l'image était authentique et actuelle. « Cette image est réelle, tout comme la souffrance qu'elle représente », a déclaré Caron, repoussant les accusations. La controverse met en lumière une tendance profondément troublante : alors que de plus en plus d’utilisateurs s’appuient sur des outils d’IA pour vérifier les faits, les erreurs de la technologie ne sont pas seulement des erreurs, elles sont des catalyseurs pour discréditer la vérité. Une tragédie humaine, ensevelie sous une erreur algorithmique Mariam Dawwas, autrefois une enfant en bonne santé pesant 25 kilos avant le début de la guerre en octobre 2023, ne pèse plus que neuf kilos aujourd'hui. « Son seul aliment, c'est le lait », explique sa mère Modallala à l'AFP, « et même ce lait n'est pas toujours disponible. » Son image est devenue le symbole de la crise humanitaire grandissante à Gaza. Mais l'échec de Grok l'a réduite à un point de données dans le mauvais fichier, une hallucination d'IA aux conséquences bien réelles. Même après avoir été mis au défi, Grok a d'abord réitéré : « Je ne diffuse pas de fausses nouvelles ; je base mes réponses sur des sources vérifiées. » Si le chatbot a fini par reconnaître son erreur, il a de nouveau répété l'attribution erronée au Yémen dès le lendemain.