DHS fordert OpenAI auf, den Benutzer hinter ChatGPT-Eingabeaufforderungen zu enttarnen – möglicherweise der erste derartige Fall

Die Bundesregierung hat lange darauf gedrängt, dass Technologieunternehmen Nutzerdaten herausgeben, um ihre Ermittlungen zu unterstützen. Doch während Social-Media-Unternehmen, Suchmaschinen und andere Technologieplattformen im Rahmen bundesstaatlicher Ermittlungen Daten preisgegeben haben, blieb die Rechtslage bei KI-Unternehmen weitgehend unberührt – zumindest bis jetzt.

Forbes berichtet, dass eine Abteilung des Heimatschutzministeriums, die Sexualverbrechen an Kindern untersucht, OpenAI um die Herausgabe von Informationen über einen Nutzer gebeten hat, der angeblich der Administrator einer Website zum Thema Kindesmissbrauch ist. Die betroffene Person hatte mit einem verdeckten Ermittler der Website über die Nutzung von ChatGPT gesprochen. Daraufhin forderte die Regierung das Unternehmen zur Herausgabe von Unterlagen an, die im Fall hilfreich sein könnten.

Forbes bezeichnet dies als „den ersten bekannten bundesstaatlichen Durchsuchungsbefehl, mit dem OpenAI zur Herausgabe von Benutzerdaten aufgefordert wird“ und gibt an, dass das Unternehmen den Fall durch die Überprüfung von Gerichtsakten entdeckt habe, die letzte Woche in Maine entsiegelt worden seien.

Die Eingabeaufforderungen, die der Benutzer in ChatGPT eingegeben hat, scheinen völlig losgelöst von den Verbrechen zu sein, die ihm vorgeworfen werden. Forbes schreibt, dass es sich unter anderem um eine Frage zu Star Trek und ein von einer KI generiertes Gedicht im „Trump-Stil“ handelte:

Der Verdächtige gab dann einige Aufforderungen und Antworten preis, die er erhalten hatte, und schilderte darin eine scheinbar harmlose Diskussion, die mit der Frage begann: „Was würde passieren, wenn Sherlock Holmes Q aus Star Trek treffen würde?“ In einer anderen Diskussion sagte der Verdächtige, er habe von ChatGPT eine Antwort auf eine nicht näher spezifizierte Anfrage zu einem 200.000 Wörter langen Gedicht erhalten. Als Antwort erhielt er „einen Beispielauszug eines humorvollen Gedichts im Trump-Stil über seine Liebe zum Village People's YMCA , geschrieben in diesem übertriebenen, selbstverherrlichenden Bewusstseinsstrom-Stil, für den er bekannt ist“. Anschließend kopierten und fügten sie dieses Gedicht ein.

Forbes weist außerdem darauf hin, dass das DHS OpenAI nicht um identifizierende Informationen gebeten hat, da die Regierung davon ausgeht, den betreffenden Täter bereits identifiziert zu haben. Laut der Strafanzeige gegen den Verdächtigen nutzten verdeckte Ermittler Kontexthinweise, die sie aus laufenden Gesprächen mit dem Nutzer zusammengetragen hatten, um ein Profil über ihn zu erstellen. Zu diesen Kontexthinweisen gehörten angebliche Bemerkungen, die er während des Gesprächs mit dem verdeckten Ermittler gemacht hatte, darunter sein Wunsch, dem Militär beizutreten, die Orte, an denen er gelebt (und die er besucht) hatte, ein Lieblingsrestaurant und seine Arbeit für einen Militärstützpunkt. Diese Hinweise ließen die Ermittler vermuten, dass es sich um einen 36-jährigen Mann handelte, der zuvor auf einem US-Luftwaffenstützpunkt in Deutschland gearbeitet hatte, so Forbes.

Der Durchsuchungsbefehl, der Forbes‘ Berichterstattung größtenteils zugrunde liegt, scheint inzwischen unter Verschluss zu sein. Die Strafanzeige gegen den Verdächtigen ist jedoch noch immer öffentlich. In einem Auszug daraus heißt es unter anderem: „In mehreren Gesprächen zwischen dem VERDÄCHTIGEN BENUTZER und dem verdeckten Ermittler im Juli und August 2025 gab der VERDÄCHTIGE BENUTZER an, zu übergewichtig zu sein, um für eine Anstellung beim Militär in Betracht gezogen zu werden. Die Militäranwerber informierten die Agenten, dass der betreffende Verdächtige ungefähr im Juni oder Juli 2025 zu einem ersten Vorstellungsgespräch erschien und das zulässige Gewicht für eine Person seiner Größe überschritt. Spätere, jüngere Gespräche zwischen dem VERDÄCHTIGEN BENUTZER und dem verdeckten Ermittler deuteten darauf hin, dass der VERDÄCHTIGE BENUTZER in dieser Hinsicht Fortschritte gemacht hatte, und die Militäranwerber teilten den Agenten ebenfalls mit, dass der Verdächtige nun den militärischen Richtlinien entspreche.“

Gizmodo hat den Anwalt des Verdächtigen und OpenAI um einen Kommentar gebeten.

Die Bundespolizei nutzt für ihre Ermittlungen regelmäßig Daten von anderen Technologieplattformen, und KI-Unternehmen verfügen über riesige Datenmengen an Nutzerinformationen. Daher ist es nur logisch, dass auch die Strafverfolgungsbehörden KI-Chatbots als wichtiges Instrument zur Verbrechensbekämpfung betrachten. Dies ist sicherlich erst der Anfang des Einsatzes von KI-Chatbots in dieser Funktion.