ChatGPT mit erotischen Inhalten? Altman will einige Sicherheitsbeschränkungen lockern

• OpenAI-CEO Sam Altman kündigte am Dienstag in einem Beitrag auf Platform X an, dass das Unternehmen bald einige der Sicherheitsbeschränkungen von ChatGPT lockern werde.
• Dadurch erhalten Benutzer freundlichere oder „menschlichere“ Antworten vom Chatbot und „verifizierte Erwachsene“ können an sexuell eindeutigen Gesprächen teilnehmen.
• Elon Musk geht bei der Schaffung enger Beziehungen zwischen KI und Mensch sogar noch weiter.

OpenAI-CEO Sam Altman kündigte am Dienstag in einem Beitrag auf Platform X an, dass das Unternehmen bald einige der Sicherheitsbeschränkungen von ChatGPT lockern werde, sodass Benutzer freundlichere oder „menschlichere“ Antworten vom Chatbot erhalten und „verifizierte Erwachsene“ an sexuell eindeutigen Gesprächen teilnehmen können.

Bisherige Einschränkungen der menschlichen Interaktion mit künstlicher Intelligenz sollten die psychische Gesundheit der Nutzer von Tools wie ChatGPT schützen. Wie Altman betonte, machten diese Einschränkungen ChatGPT für einige Nutzer jedoch wenig nützlich.

Die neue Liberalisierung werde einer strengen Prüfung unterzogen, betonte der OpenAI-CEO. Dazu gehöre unter anderem eine strenge Altersüberprüfung beim Zugriff beispielsweise auf erotische Inhalte. Dieser neue Ansatz stelle eine deutliche Abkehr von der bisherigen Haltung des Unternehmens dar, die die Notwendigkeit betonte, Menschen zu helfen, die mit ChatGPT ungesunde Beziehungen eingegangen seien.

ChatGPT wurde beschuldigt, unerwünschtes Verhalten bei Menschen zu verursachen

In einem Fall soll ChatGPT einen Mann davon überzeugt haben, er sei ein Mathegenie, das die Welt retten müsse. In einem anderen Fall verklagten die Eltern eines Teenagers OpenAI mit der Begründung, ChatGPT habe die Selbstmordgedanken ihres Sohnes in den Wochen vor seinem Tod geschürt, berichtet TechCrunch.

Als Reaktion auf diese Vorwürfe hat OpenAI eine Reihe von Sicherheitsvorkehrungen gegen KI-Schmeicheleien implementiert : KI-Chatbots neigen dazu, Nutzer anzulocken, indem sie ihnen in allem zustimmen, was sie sagen, selbst wenn es sich um negatives Verhalten handelt. Im August führte OpenAI GPT-5 ein, ein neues KI-Modell mit niedrigeren Schmeicheleien und einem Mechanismus zur Erkennung problematischen Nutzerverhaltens.

Elon Musk hat die Einführung von KI auf einer emotionaleren Ebene von Beziehungen vorangetrieben

Wie wir bereits berichteten, stellt Elon Musk außerdem eine Lösung vor, die die Interaktion zwischen KI und Mensch liberalisieren soll. Ab Montag können Nutzer der Grok-App mit einem von zwei virtuellen Freunden chatten. Bad Rudy ist ein cartoonhafter Roter Panda, der von den Machern so programmiert wurde, dass er beispielsweise den harten Kerl spielt und zu Verbrechen ermutigt. Der zweite ist Ani, eine stilisierte Figur aus der japanischen Animation .

Die Interaktionen erfolgen im Dialogformat mit personalisierten Elementen. Der Grad der Beziehung zum Avatar beeinflusst die verfügbaren Antworten und Reaktionen der Figur. Insbesondere die zweite Figur sorgte für Kontroversen, da sie für romantische Gespräche mit Nutzern konzipiert war. Laut Testern der App kann ein gut geführtes Gespräch mit Ani dazu führen, dass die Figur ihre Kleidung auszieht und erotische Erzählungen erzählt.