Wurde das Video vom Angriff auf das venezolanische Drogenboot mithilfe künstlicher Intelligenz erstellt? Das meinen Experten.

Die USA üben weiterhin Druck auf das Maduro-Regime aus. Am späten Dienstagabend verkündete Präsident Donald Trump einen Angriff der US-Streitkräfte auf ein mutmaßliches Drogenboot der Drogenterrorgruppe Tren de Aragua. Die Regierung veröffentlichte zudem ein Video des Angriffs, auf dem die Explosion des Bootes zu sehen ist und das mit einem Nachtsichtgerät aufgezeichnet wurde. Nur wenige Stunden später stellte Venezuela die Echtheit des Dokuments in Frage und vermutete, es sei mithilfe künstlicher Intelligenz erstellt worden .

„Marco Rubio scheint seinen Präsidenten weiterhin zu belügen: Nachdem er ihn in eine Sackgasse geführt hat, bietet er ihm nun ein Video mit künstlicher Intelligenz (und damit als Beweis) als ‚Beweis‘ an“, erklärte der venezolanische Kommunikationsminister Freddy Ñáñez auf seinem Telegram-Kanal. Um zu diesem Schluss zu gelangen, lud Ñáñez das Video einfach auf die von Google entwickelte KI-App Gemini hoch und fragte, ob „das Video mit künstlicher Intelligenz erstellt wurde“. Die Maschine antwortete ihm mit der Wahrscheinlichkeit; sie hätte ihm aber genauso gut das Gegenteil sagen können.

„Ich habe mit der Aufnahme genau dasselbe gemacht, und Gemini sagte mir, es wirke nicht wie synthetischer Inhalt, der mit generativer künstlicher Intelligenz erstellt wurde“, erklärte Miguel Lucas, Global Director of Innovation bei der Firma Llorente y Cuenca und Experte für KI, im Gespräch mit ABC. Denn genau das passiert mit dieser Technologie: Sie kann einem in einem bestimmten Moment etwas sagen und es später wieder zurücknehmen.

Lucas weist darauf hin, dass „ generative KI wie Gemini nicht als Beweismittel verwendet werden kann “, da „sie halluziniert, falsche Daten liefert oder diese erfindet“. „Sie sollte niemals auf diese Weise verwendet werden, denn sie sagt einem zwar, dass etwas mit KI erstellt worden sein könnte, aber gleichzeitig auch das Gegenteil.“ Denn die App von Google, die genauso funktioniert wie ChatGPT, ist nicht dafür konzipiert, festzustellen, ob Inhalte maschinell erstellt wurden. Darüber hinaus ist es trotz aller Bemühungen keinem Technologieunternehmen gelungen, ein Verifizierungstool zu entwickeln, das zuverlässig genug ist, um direkt anzuzeigen, dass Inhalte mithilfe künstlicher Intelligenz erstellt wurden.

Das von der US-Regierung geteilte Video weist zudem Besonderheiten auf , da es sich um eine Low-Definition-Aufnahme handelt, die es für Maschinen oder Menschen schwieriger macht, ihre Echtheit zu überprüfen. „Die Antwort von Gemini ist unzuverlässig. Man sollte nicht davon ausgehen, dass es sich um ein gefälschtes Dokument handelt. Wenn man die Möglichkeit eines manipulierten Videos ernsthaft analysieren möchte, sollte man außerdem keine allgemein zugängliche Bürgertechnologie wie ChatGPT oder Gemini verwenden. Man greift auf spezielle Tools zurück, die nicht jedem zur Verfügung stehen“, so Lucas abschließend.

Sergio Álvarez-Teleña, CEO von SciTheWorld, einem der innovativsten KI-Unternehmen Spaniens, verfolgt einen ähnlichen Ansatz. Gegenüber dieser Zeitung weist er darauf hin, dass die Qualität des Videos erkläre, warum Gemini es zu einem bestimmten Zeitpunkt für eine Fälschung halten könnte: „Das Video ist für Gemini etwas ungewöhnlich, da das Tool sicherlich mit Videos von viel höherer Qualität trainiert wurde. Das Tool ist überrascht, da es wahrscheinlich nicht mit Bildern aus Spezialoperationen dieser Art trainiert wurde.“

Obwohl keiner der befragten Experten auf den ersten Blick Anzeichen einer Fälschung in dem Video erkennt, warnen sie, dass es mit der Weiterentwicklung der künstlichen Intelligenz immer schwieriger werden wird, Realität von Unwahrheit zu unterscheiden . „Das wird sich dauerhaft ändern, und wir können nur noch dem vertrauen, was wir sehen, nicht einmal dem, was Regierungen sagen. Und das wird sich nur noch verschlimmern“, erklärt Juan Ignacio Rouyet, Professor und Experte für KI und Ethik an der Internationalen Universität von La Rioja, gegenüber dieser Zeitung.