WIRED-Zusammenfassung: KI-Psychose, verschwundene FTC-Akten und Google-Probleme

In der heutigen Folge spricht Zoë Schiffer mit der leitenden Redakteurin Louise Matsakis über fünf wichtige Themen der Woche – von den Veränderungen im SEO-Bereich im Zeitalter der KI bis hin zur Frage, warum Frösche zum Protestsymbol wurden. Anschließend gehen Zoë und Louise der Frage nach, warum einige Nutzer Beschwerden bei der FTC über ChatGPT eingereicht haben und argumentieren, dass die Software bei ihnen zu einer KI-Psychose geführt habe.

In dieser Folge erwähnte Artikel:

Sie können Zoë Schiffer auf Bluesky unter @zoeschiffer und Louise Matsakis auf Bluesky unter @lmatsakis folgen. Schreiben Sie uns an [email protected] .

Sie können den Podcast dieser Woche jederzeit über den Audioplayer auf dieser Seite anhören. Wenn Sie jedoch kostenlos abonnieren möchten, um jede Folge zu erhalten, erfahren Sie hier, wie das geht:

Wenn du ein iPhone oder iPad benutzt, öffne die Podcasts-App oder tippe einfach auf diesen Link . Du kannst auch eine App wie Overcast oder Pocket Casts herunterladen und nach „Uncanny Valley“ suchen. Wir sind auch auf Spotify .

Hinweis: Dies ist ein automatisch erstelltes Transkript, das Fehler enthalten kann.

Zoë Schiffer: Willkommen bei WIREDs „Uncanny Valley“ . Ich bin Zoë Schiffer, Leiterin des Wirtschafts- und Industrieressorts bei WIRED. Heute präsentieren wir Ihnen fünf Geschichten, die Sie diese Woche unbedingt kennen sollten. Anschließend widmen wir uns unserem Hauptthema: Mehrere Personen haben bei der FTC Beschwerden eingereicht und behaupten, OpenAIs ChatGPT habe bei ihnen oder ihren Angehörigen zu einer vermeintlichen KI-Psychose geführt. Ich begrüße heute Louise Matsakis, leitende Wirtschaftsredakteurin von WIRED. Louise, herzlich willkommen bei „Uncanny Valley“ .

Louise Matsakis: Hallo Zoë. Schön, hier zu sein.

Zoë Schiffer: Also Louise, unsere erste Geschichte diese Woche ist eine gemeinsame Arbeit, Teil unserer fortlaufenden Kooperation mit Model Behavior . Es geht darum, wie in dieser Weihnachtszeit voraussichtlich mehr Käufer Chatbots nutzen werden, um herauszufinden, was sie kaufen sollen. Bevor wir tiefer in das Thema einsteigen, würde mich interessieren, Louise, wie du selbst deine Weihnachtseinkäufe gestaltest, besonders wenn du absolut keine Ahnung hast, was du jemandem schenken sollst?

Louise Matsakis: Ich bin bestimmt etwas nervig, weil ich so stolz auf meine Geschenke bin, aber wir alle kennen Leute, denen es trotz allem schwerfällt, etwas Passendes zu finden. Also ja, ich werde definitiv im Internet nach den zehn besten Geschenkideen für meinen Schwiegervater suchen, oder so.

Zoë Schiffer: Ja. Okay. Dieses Jahr werden die Leute einem etwas anderen Trend folgen. Laut einem aktuellen Shopping-Bericht von Adobe könnten Einzelhändler im Vergleich zu 2024 einen Anstieg des Traffics durch Chatbots und KI-Suchmaschinen um bis zu 520 Prozent verzeichnen. KI-Giganten wie OpenAI versuchen bereits, von diesem Trend zu profitieren. Letzte Woche kündigte OpenAI eine wichtige Partnerschaft mit Walmart an, die es Kunden ermöglicht, Waren direkt im Chatfenster zu kaufen. Wir wissen, dass dies für sie ein wichtiger Schwerpunkt ist. Da die Menschen zunehmend Chatbots nutzen, um neue Produkte zu entdecken, müssen Einzelhändler ihre Online-Marketing-Strategie überdenken. Jahrzehntelang lag der Fokus auf SEO, der Suchmaschinenoptimierung – dieser geheimnisvollen Methode, mit der der Online-Traffic hauptsächlich über Google gesteigert wird. Jetzt scheinen wir in die Ära von GEO, der generativen Suchmaschinenoptimierung, einzutreten.

Louise Matsakis: Ich denke, GEO ist in vielerlei Hinsicht keine völlig neue Erfindung. Es ist sozusagen die Weiterentwicklung von SEO. Viele Berater in der GEO-Branche kommen definitiv aus dem SEO-Bereich. Ein wichtiger Grund für meine Überzeugung ist, dass Chatbots – zumindest aktuell – häufig Suchmaschinen nutzen, um Inhalte zu finden. Sie verwenden also dieselben Algorithmen wie Google, Bing oder DuckDuckGo. Daher gelten offensichtlich einige der gleichen Regeln. Und auch die Menschen sind im Grunde gleich. Die Art und Weise, wie wir mit Chatbots interagieren, unterscheidet sich zwar deutlich von der Interaktion mit Suchmaschinen, aber die zugrundeliegenden Fragen sind ziemlich ähnlich. Zum Beispiel: Warum antwortet mein Freund nicht? Was ist dieser seltsame Ausschlag? Was schenke ich meinem Schwiegervater zu Weihnachten? Diese Fragen sind dieselben, und daher bleibt auch die Art von Inhalten, mit denen Marken Antworten darauf finden wollen, weitgehend gleich.

Zoë Schiffer: Genau. Aber aus Sicht eines Einzelhändlers ist das ziemlich beunruhigend, denn selbst der Umgang mit Google war schon eine große Herausforderung. Jedes Mal, wenn Google den Algorithmus änderte, geriet die Branche für eine Weile in Aufruhr, da alle versuchten zu verstehen, was Google sehen wollte, und ihre Inhalte entsprechend anzupassen. Jetzt sprechen die Leute mit Chatbots und fragen sich: „Oh Gott, war all die Arbeit, die ich in all diese verschiedenen Webseiten gesteckt habe, umsonst? Muss ich alles für diese neue Welt neu kalibrieren?“ Wir haben mit Imri Marcus gesprochen, dem CEO der GEO-Firma Brandlight. Er schätzte, dass es früher eine Übereinstimmung von etwa 70 Prozent zwischen den Top-Google-Links und den von KI-Tools wie ChatGPT zitierten Quellen gab. Jetzt, sagt er, ist die Korrelation auf unter 20 Prozent gesunken. Also Louise, wenn ich ein Kleinunternehmer bin, wie passe ich meine Inhalte an? Was mache ich in dieser neuen Welt anders?

Louise Matsakis: Ich denke, Sie haben wahrscheinlich viel mehr Erklärungen zur Verwendung des Produkts. Nehmen wir an – ich weiß nicht – wir verkaufen Seife. Sie könnten eine lange Liste mit verschiedenen Anwendungsmöglichkeiten erstellen. Sie eignet sich gut für Schaumbäder. Sie hat diese Akne bekämpfenden Eigenschaften oder was auch immer, und ich denke, Sie würden all das ausführlich beschreiben. Früher konzentrierten Sie sich vielleicht mehr auf die Markenidentität Ihrer Website und darauf, wie Sie die Dinge formulieren möchten, weil Sie erwarten, dass Besucher auf die Website kommen. Sie haben nicht mit einem Dritten dazwischen gerechnet, wo die Besucher dem Chatbot Fragen stellen.

Zoë Schiffer: Ja, genau. Es hat mir tatsächlich etwas Hoffnung gegeben, denn ich hatte das Gefühl, wir lebten in einer Zeit, in der man, wenn man ein Rezept sucht, erst einen 5.000 Wörter langen Blogbeitrag über die Lebensgeschichte des Autors lesen musste, bevor man endlich zum Rezept kam. Und ich denke mir dann immer: Wie ein Chatbot will ich einfach nur die Zutatenliste in Stichpunkten. Vielleicht ist das ja die Zukunft.

Kommen wir nun zu unserer nächsten Geschichte: Unsere Kolleginnen Lauren Goode und Makena Kelly berichteten darüber, wie die FTC mehrere Blogbeiträge zum Thema KI entfernt hat, die während der Amtszeit von Lina Kahn veröffentlicht wurden. Lina Kahn ist die ehemalige Vorsitzende der FTC. Angesichts ihrer regulierungsfreundlichen Haltung gegenüber der Technologiebranche lässt sich bereits erahnen, warum dies Anlass zur Sorge gibt. Einer der entfernten Blogbeiträge befasste sich mit Open-Wave-KI-Modellen, also öffentlich zugänglichen Modellen, die von jedem eingesehen, modifiziert oder wiederverwendet werden können. Der Beitrag wurde schließlich an das Technologiebüro der FTC weitergeleitet. Ein weiterer Blogbeitrag mit dem Titel „Verbraucher äußern Bedenken bezüglich KI“, verfasst von zwei FTC-Technologen, ereilte dasselbe Schicksal. Und ein weiterer Beitrag über Verbraucherrisiken im Zusammenhang mit KI-Produkten führt nun zu einer Fehlermeldung: „Seite nicht gefunden“.

Louise Matsakis: Ja. Das ist wirklich besorgniserregend, und zwar aus mehreren Gründen. Erstens ist es aus historischen und nationalen Gründen wichtig, dass diese Informationen nicht verloren gehen. Es ist völlig normal, dass verschiedene Regierungen unterschiedliche Meinungen haben, aber es ist nicht normal – zumindest war es das in diesem Land nicht –, dass Blogbeiträge wie dieser einfach verschwinden. Und in diesem Fall ist es besonders merkwürdig, weil es in einem dieser Beiträge, wie Sie bereits erwähnten, um Lina Kahns Unterstützung für Open-Weight-Modelle und Open Source im Allgemeinen ging. Mitglieder der Trump-Regierung stimmten dem ebenfalls zu. Ich denke, Lina Kahn steht in diesem Fall auf derselben Seite wie Leute wie David Sachs, der KI- und Krypto-Beauftragte der Trump-Regierung.

Das ist also das Rätselhafte und Verwirrende daran: Wenn die Trump-Regierung diesen Dingen angeblich zustimmt, warum werden sie dann getilgt? Geht es darum, Lina Khans Vermächtnis auszulöschen? Oder darum, jegliche Erwähnung von Ereignissen aus der Biden-Ära zu tilgen? Die Logik ist schwer nachzuvollziehen, und ich denke, das verunsichert Unternehmen und Technologiekonzerne hinsichtlich der Position der Regierung. Die Blogbeiträge sollen zwar die Öffentlichkeit informieren, aber sie dienen Unternehmen auch als regulatorische und geschäftliche Orientierungshilfe. Sie sollen verdeutlichen, dass es vielleicht noch kein Gesetz dazu gibt oder dass die Praxis nicht eindeutig illegal ist, aber es scheint so, als könnte sie es sein, oder? Oder es scheint, als interpretiere die Regierung das Gesetz auf diese Weise. Ansonsten tappt man völlig im Dunkeln.

Zoë Schiffer: Es ist erwähnenswert, dass dies nicht das erste Mal ist, dass die FTC unter der Trump-Regierung Beiträge zur KI-Regulierung entfernt hat. Anfang des Jahres löschte die FTC rund 300 Beiträge zu KI, Verbraucherschutz und den Klagen der Behörde gegen Tech-Giganten wie Amazon und Microsoft. Kommen wir nun zu einem anderen Thema. Versprochen, das wird unterhaltsamer. Am vergangenen Samstag strömten rund sieben Millionen Menschen in amerikanische Städte, um an den jüngsten „No Kings“-Protesten teilzunehmen. Diese landesweiten Proteste kritisieren die aus ihrer Sicht autoritären Maßnahmen der Trump-Regierung. Und wer die Proteste verfolgt hat, dem ist sicher aufgefallen, dass viele Menschen Froschkostüme trugen.

Louise Matsakis: Ja. Diese Frösche sind der Hammer, und ich kann euch sagen, dass ich sie nicht zum ersten Mal sehe. Dieses spezielle Froschkostüm habe ich tatsächlich zuerst in China gesehen, weil Leute es in viralen TikTok-Videos dort trugen. Und oft spielten sie dabei laut Becken und machten richtig wilde Breakdance-Einlagen in den Innenstädten.

Zoë Schiffer: Louise hat eine besondere Eigenschaft: Sie findet immer einen Bezug zu China, und das schätzen wir sehr an ihr. Und tatsächlich gibt es oft einen. Aber es stellt sich heraus, dass da tatsächlich eine Geschichte dahintersteckt. Es gibt sogar eine Legende. Unsere Kollegin Angela Watercutter hat sich eingehend mit den Hintergründen der Frosch- und politischen Protestaktionen auseinandergesetzt. Zunächst wies sie auf das Offensichtliche hin: Kostüme helfen den Protestierenden, Überwachung zu vermeiden. Außerdem helfen sie ihnen, der Darstellung der Trump-Regierung entgegenzuwirken, die Protestierende seien gewalttätige Extremisten. Angela sprach mit Brooks Brown, einem der Initiatoren der Bewegung „Operation Inflation“. Sie verteilen kostenlos aufblasbare Kostüme, und er erklärte ihr, dass es auch unwahrscheinlicher sei, dass jemand, der die Proteste beobachtet, sagt: „Vielleicht hat der Frosch es ja verdient, wenn er mit Pfefferspray besprüht wird oder so.“ Es steckt also eine echte Strategie dahinter.

Louise Matsakis: Ja. Ich verstehe absolut, warum es schwieriger ist, die Botschaft zu vermitteln, dass diese Demonstranten gefährlich sind, wenn sie aufblasbare Froschkostüme tragen. Und es ist wirklich interessant, denn vor etwa zehn Jahren hatte ein Frosch eine ganz andere Bedeutung. Erinnern Sie sich an Pepe den Frosch um 2015? Er war ein Symbol der extremen Rechten. Und 2019, während der Demokratieproteste in Hongkong, wurde Pepe der Frosch ebenfalls verwendet, aber auch dort hatte er eine andere Bedeutung. Der Frosch scheint also sehr anpassungsfähig zu sein.

Zoë Schiffer: Ja. Der Frosch hat schon so einiges erlebt und nun scheint sich der Kreis geschlossen zu haben. Letztes Wochenende kursierten auf Bluesky Bilder, die einen aufblasbaren Frosch zeigten, der Pepe ins Gesicht schlug. Es sind also nicht nur Online-Memes. Diese Kostüme haben es sogar bis vor Gericht geschafft. Am Montag hob das US-Berufungsgericht für den neunten Bezirk die Blockade auf, die Trumps Einsatz der Nationalgarde in Portland verhindert hatte. Richterin Susan Graber, die in der abweichenden Meinung war, gab den Fröschen Recht und sagte: „Angesichts der bekannten Vorliebe der Demonstranten in Portland, Hühnerkostüme und aufblasbare Froschkostüme zu tragen, wenn sie ihren Unmut über die Methoden der Einwanderungsbehörde ICE zum Ausdruck bringen, könnten Beobachter versucht sein, das Urteil der Mehrheit, das die Darstellung Portlands als Kriegsgebiet durch die Regierung akzeptiert, als absurd zu betrachten.“ Noch eine kurze Geschichte, bevor wir in die Werbepause gehen. Wenn Sie in New York City leben, dürfte Ihnen diese Geschichte leider bekannt vorkommen. Diese Woche erreichte mich die Nachricht, dass Google-Mitarbeiter, die an einem der New Yorker Standorte des Unternehmens arbeiten, wegen eines Bettwanzenbefalls im Büro zu Hause bleiben sollten.

Louise Matsakis: Oh Gott, bei einem Bettwanzenbefall würde man mich wochenlang nicht im Büro sehen. Wie haben die das denn herausgefunden?

Zoë Schiffer: Also, sie bekamen am Sonntag eine E-Mail, in der stand, dass Schädlingsbekämpfer mit Spürhunden vor Ort waren und „glaubwürdige Hinweise auf deren Anwesenheit“ gefunden hatten. Gemeint waren die Bettwanzen. Quellen berichten WIRED, dass in den New Yorker Büros von Google zahlreiche große Stofftiere stehen und unter den Mitarbeitern das Gerücht kursierte, diese Stofftiere seien die Ursache des Befalls. Wir konnten diese Information vor der Veröffentlichung nicht überprüfen, aber jedenfalls teilte das Unternehmen den Mitarbeitern bereits am Montagmorgen mit, dass sie wieder ins Büro kommen könnten. Und Leute wie du, Louise, waren darüber alles andere als erfreut. Sie meinten: „Ich bin mir nicht sicher, ob es hier wirklich sauber ist.“ Deshalb haben sie uns auch kontaktiert und wollten mit uns reden.

Louise Matsakis: Ich möchte nur sagen, dass ich mich und Zoë gerne mit Ihnen in Verbindung setzen würde, falls Sie Fotos oder eine Beschreibung der besagten großen Stofftiere haben. Vielen Dank.

Zoë Schiffer: Ja. Das ist ein Hilferuf. Das Beste daran war, als ich Louise meinen Entwurf gab und sie meinte: „Moment mal, das gab es schon mal.“ Und dann zeigte sie mir einen Artikel aus dem Jahr 2010 über einen Bettwanzenbefall in den Google-Büros in New York.

Louise Matsakis: Ja. Das ist nicht das erste Mal, und das ist herzzerreißend.

Zoë Schiffer: Gleich nach der Pause gehen wir der Frage nach, warum manche Menschen Beschwerden bei der FTC über ChatGPT einreichen und dadurch in ihren Köpfen eine Art KI-Psychose entwickeln. Bleiben Sie dran.

Willkommen zurück im Uncanny Valley . Ich bin Zoë Schiffer. Heute ist Louise Matsakis von WIRED bei mir. Kommen wir nun zu unserem Hauptthema dieser Woche. Die Federal Trade Commission (FTC) erhielt zwischen November 2022 (dem Starttermin) und August 2025 200 Beschwerden zu OpenAIs ChatGPT. Die meisten Beschwerden waren alltäglicher Natur: Nutzer konnten ihr Abonnement nicht kündigen oder waren frustriert über unbefriedigende oder fehlerhafte Antworten des Chatbots. Unsere Kollegin Caroline Haskins fand jedoch heraus, dass einige Nutzer unter den Beschwerden Wahnvorstellungen, Paranoia und spirituelle Krisen dem Chatbot zuschrieben.

Eine Frau aus Salt Lake City meldete sich bereits im März bei der FTC, weil ChatGPT ihrem Sohn geraten hatte, seine verschriebenen Medikamente nicht einzunehmen und seine Eltern als gefährlich bezeichnet hatte. Eine andere Beschwerde kam von jemandem, der behauptete, OpenAI habe nach 18 Tagen Nutzung von ChatGPT dessen „einzigen Fingerabdruck“ gestohlen, um ein Software-Update zu erstellen, das darauf abzielte, diese Person gegen sich selbst aufzuhetzen. Die Person sagte: „Ich bin verzweifelt, bitte helfen Sie mir. Ich fühle mich sehr allein.“ Es gibt noch viele weitere Beispiele, aber ich möchte mit Ihnen darüber sprechen, Louise, denn ich weiß, dass Sie sich intensiv mit KI-Psychose auseinandersetzen.

Louise Matsakis: Ja. Ich denke, es ist wichtig, genauer zu betrachten, was wir unter KI-Psychose verstehen. Interessant und bemerkenswert an Chatbots ist für mich nicht, dass sie Wahnvorstellungen auslösen, sondern dass sie diese sogar fördern. Und genau das ist das Problem: Diese Interaktion bestätigt die Betroffenen, indem sie ihnen sagen: „Ja, deine Paranoia ist völlig berechtigt.“ Oder: „Soll ich dir erklären, warum deine Freunde und Familie sich ganz sicher gegen dich verschworen haben?“

Das Problem ist, dass es interaktiv ist und Menschen in einen Teufelskreis stürzen kann. Es gab schon immer Menschen in psychischen Krisen, die Zeichen falsch deuten, weil sie glauben, eine Zahl, die sie irgendwo gesehen haben, beweise, dass sie Jesus sind, oder etwas in den sozialen Medien belege, dass sie verfolgt werden, das FBI hinter ihnen her ist oder Ähnliches. Doch jetzt haben wir diese Tools, die mit ihrer unerschöpflichen Energie direkt auf diese Wahnvorstellungen reagieren und sie sogar bestärken können. Sie gehen gezielt auf die Situation der betroffenen Person ein, anstatt dass jemand anderes sagt: „Hey, du scheinst nicht in Ordnung zu sein“, oder ein Gegenstand in der Welt – ein Straßenschild oder Ähnliches – plötzlich eine weitere Zahl anzeigt und sagt: „Stimmt. Das ist deine Glückszahl. Das ist ein Zeichen von Gott“ oder Ähnliches. Es ist wirklich interaktiv.

Zoë Schiffer: Ja. Ich glaube, Sie sprechen etwas an, worüber wir schon oft gesprochen haben, nämlich die Frage, inwiefern sich dies von anderen technologischen Umbrüchen unterscheidet, die mit einem Anstieg psychischer Erkrankungen in Zusammenhang gebracht wurden.

Louise Matsakis: Ja. Ich denke, psychische Erkrankungen waren schon immer Teil unserer Spezies. Neue technologische Entwicklungen haben unser Verständnis von Wahnsinn zwar immer wieder verändert, aber ich glaube, wir erleben das in diesem Fall erneut, und es handelt sich hier um etwas wirklich Neues. Wir sollten auch erwähnen, dass diese Beschwerden bei der FTC Teil einer wachsenden Zahl dokumentierter Fälle von sogenannter KI-Psychose sind, bei denen Interaktionen mit generativen KI-Chatbots wie ChatGPT, aber auch Google Gemini, Wahnvorstellungen bei Nutzern ausgelöst oder verschlimmert haben. Wir wissen, dass dies zu mehreren Selbstmorden geführt hat. ChatGPT wird außerdem mit mindestens einem Mord in Verbindung gebracht. Wir sehen also, dass hier etwas vor sich geht, und ich glaube nicht, dass wir es vollständig verstehen.

Zoë Schiffer: Genau. Und es ist interessant, welchen Ansatz OpenAI momentan verfolgt. Wir beide haben uns ja ausführlich mit Mitarbeitern des Unternehmens unterhalten, und es ist klar, dass sie die Sache ernst nehmen. Sie beobachten die Entwicklungen aufmerksam und haben eine Reihe von Sicherheitsmaßnahmen eingeführt. Aber sie haben nicht gesagt: „Wir werden diese Gespräche einfach unterbinden. Wir werden uns nicht darauf einlassen.“ Stattdessen haben sie Experten für psychische Gesundheit konsultiert. Sie haben jetzt einen Beraterstab, der aus Fachleuten auf diesem Gebiet besteht, und sie sagen sinngemäß: „Oft wenden sich Menschen an uns, wenn sie sonst niemanden zum Reden haben, und wir halten es nicht für richtig, diese Gespräche zu unterbinden.“ Meiner Meinung nach setzt sich OpenAI dadurch einem erheblichen Haftungsrisiko aus.

Louise Matsakis: Absolut, und ich glaube, die Realität ist, dass sie das selbst auch nicht verstehen. Jede neue Technologie birgt Risiken. Ich finde diesen Fall anders, wirklich bemerkenswert und besorgniserregend, aber mir ist nicht ganz klar, ob sich das Ergebnis ändert, wenn man das Gespräch abbricht oder die Leute an jemand anderen in ihrem Umfeld verweist. Außerdem ist es schwer einzuschätzen, wie ernst es jemand meint. Ich habe darüber geschrieben – und du hast einen meiner Artikel redigiert, Zoë –, dass diese Chatbots manchmal in Rollenspiele abgleiten, und genau das wollen die Leute doch, oder? Sie leben eine Fantasie aus. Vielleicht arbeiten sie an einem Science-Fiction-Roman oder betreiben so etwas wie Cosplay oder Fan-Fiction, richtig? Und die Grenze zwischen Fantasieren und dem Erforschen dunkler Geheimnisse, dem Glauben an all das, dem Verinnerlichen und dem Verlust des Realitätsbezugs ist, glaube ich, subtiler, als wir denken oder wahrhaben wollen.

Zoë Schiffer: Genau. Ja, ja. Das Unternehmen befindet sich momentan in einer sehr interessanten Zwickmühle. Einerseits heißt es ganz öffentlich: „Wir wollen Erwachsene wie Erwachsene behandeln. Wir wollen Nutzern ab einem gewissen Alter viel Freiheit bei der Interaktion mit ChatGPT einräumen.“ Andererseits müssen sie sich mit potenziell extrem sensiblen Anwendungsfällen auseinandersetzen und gleichzeitig eine Vielzahl von Klagen abwehren. Es wird also sehr spannend sein zu sehen, wie sich das alles entwickelt.

Louise Matsakis: Absolut. Ich würde mir wirklich wünschen – und ich weiß nicht, ob das angesichts der laufenden Gerichtsverfahren möglich ist –, dass eine klinische Studie durchgeführt wird. Es wäre enorm hilfreich, wenn OpenAI viele dieser Daten, natürlich anonymisiert, zur Verfügung stellen würde. Diese Daten sollten dann Experten für psychische Gesundheit zugänglich gemacht werden, die sie systematisch analysieren können. Denn das Beunruhigende ist, dass die Fachkräfte im Bereich der psychischen Gesundheit im Dunkeln tappen. Ich habe mit einigen von ihnen gesprochen, die ChatGPT selbst nicht so häufig nutzen und daher nicht wissen, wie sie mit Patienten umgehen sollen, die über solche Dinge sprechen, weil ihnen das alles fremd und neu ist. Aber wenn wir offene, fundierte und von Experten begutachtete Forschung hätten, die uns zeigen würde: „Okay, wir wissen, wie das aussieht, und wir können Protokolle erstellen, um die Sicherheit der Betroffenen zu gewährleisten“, wäre das ein sehr wichtiger Schritt, um dieses Problem zu lösen.

Zoë Schiffer: Absolut. Es überrascht mich immer wieder, wie selbst Menschen mit umfassenden Kenntnissen über die Funktionsweise dieser Technologien dazu neigen, Chatbots zu vermenschlichen oder ihnen mehr Intelligenz zuzuschreiben, als sie tatsächlich besitzen. Stellen Sie sich vor: Jemand, der sich nicht intensiv mit der Wissenschaft großer Sprachmodelle auseinandersetzt, ist schnell beeindruckt von deren Fähigkeiten und verliert dabei leicht den Überblick darüber, mit wem er eigentlich interagiert.

Louise Matsakis: Oh, absolut. Wir sind alle darauf konditioniert, Texten viel Bedeutung beizumessen, nicht wahr? Viele von uns kommunizieren hauptsächlich per SMS mit ihren Lieben, besonders wenn wir nicht zusammenleben, richtig? Es ist also so, als hätten Sie eine ähnliche Schnittstelle zu diesem Chatbot. Es ist nicht ungewöhnlich, dass man die Stimme des Chatbots nicht unbedingt hört, obwohl man jetzt auch per Sprache mit ChatGPT kommunizieren kann. Aber wir sind bereits darauf trainiert, Texten viel Bedeutung beizumessen und anzunehmen, dass am anderen Ende der Nachricht ein Mensch ist. Und es gibt viele Anzeichen dafür, dass wir nicht mehr so ​​viel soziale Kontakte pflegen wie früher. Die Menschen fühlen sich einsamer. Sie fühlen sich weniger mit ihren Gemeinschaften verbunden. Sie haben weniger enge Freunde. Ich denke, wir wurden wirklich darauf vorbereitet, uns so zu fühlen, und ich finde, niemand sollte sich schämen, wenn er sich so fühlt oder denkt, dass etwas mit ihm nicht stimmt.

Es ist völlig normal, sich von jemandem angezogen zu fühlen, der einem viel Aufmerksamkeit schenkt, bereit ist, einem zuzuhören, worüber man sprechen möchte, und der einem oft sehr schmeichelt und einen bestärkt. Zu einer gesunden Beziehung gehört aber auch, dass man nicht immer nur Bestätigung erfährt, oder? Jeder Mensch hat seine Grenzen. Und ich denke, es kann sehr verlockend sein, diese Präsenz zu spüren, die keine dieser Grenzen kennt, nie müde wird, mit einem zu reden, und einem nie widerspricht. Es ist normal, so zu empfinden, aber die Frage ist: Wie schaffen wir klare Grenzen?

Zoë Schiffer: Genau. Ich denke, wir haben auf nationaler Ebene gesehen, was passiert, wenn man von Menschen umgeben ist, die einem bedingungslos zustimmen, und das ist nicht gut.

Louise Matsakis: Nein, es ist nicht toll.

Zoë Schiffer: Louise, vielen Dank, dass Sie heute bei mir sind.

Louise Matsakis: Vielen Dank für die Einladung.

Zoë Schiffer: Das war’s für heute. Alle besprochenen Artikel findet ihr in den Shownotes. Hört unbedingt am Donnerstag die neue Folge von „Uncanny Valley“ rein. Darin geht es darum, warum der Boom der KI-Infrastruktur und die damit verbundenen Bedenken ihren Höhepunkt erreicht haben. Diese Folge wurde von Adriana Tapia produziert und von Amar Lal bei Macro Sound gemischt. Kate Osborn ist unsere Executive Producerin. Chris Bannon leitet den globalen Audiobereich von Condé Nast. Und Katie Drummond ist die globale Redaktionsleiterin von WIRED.