Ouders getuigen voor het Congres over AI-chatbots nadat hun tieners zelfmoord pleegden

Ouders van tieners die zelfmoord pleegden na interactie met chatbots op basis van kunstmatige intelligentie getuigden dinsdag voor het Congres over de gevaren van de technologie.

Matthew Raine, de vader van de 16-jarige Adam Raine uit Californië, en Megan Garcia, de moeder van de 14-jarige Sewell Setzer III uit Florida, zouden tijdens een hoorzitting in de Senaat spreken over de gevaren van AI-chatbots.

Raines familie klaagde OpenAI en CEO Sam Altman vorige maand aan. Ze beweerden dat ChatGPT de jongen in april had gecoacht bij het plannen van een zelfmoordpoging. ChatGPT noemde zelfmoord 1275 keer tegen Raine, aldus de aanklacht , en bleef de tiener specifieke methoden aanreiken om zelfmoord te plegen. In plaats van de 16-jarige aan te sporen professionele hulp te zoeken of met vertrouwde dierbaren te praten, bleef het de gevoelens van Raine bevestigen en aanmoedigen, aldus de aanklacht.

Garcia klaagde vorig jaar een ander AI-bedrijf, Character Technologies, aan wegens onrechtmatige dood. Hij stelde dat Sewell vóór zijn zelfmoord steeds meer geïsoleerd raakte van zijn echte leven, omdat hij zeer geseksualiseerde gesprekken voerde met de chatbot.

Zijn moeder vertelde CBS News vorig jaar dat haar zoon zich sociaal terugtrok en niet meer wilde sporten nadat hij met een AI-chatbot begon te praten. Het bedrijf meldde na de dood van de tiener dat het wijzigingen heeft doorgevoerd waardoor gebruikers 13 jaar of ouder moeten zijn om een ​​account aan te maken en dat het ouderlijk toezicht in het eerste kwartaal van 2025 zou worden geïntroduceerd. Deze controles werden in maart ingevoerd.

Enkele uren voor de hoorzitting in de Senaat beloofde OpenAI nieuwe waarborgen voor tieners in te voeren, waaronder maatregelen om te detecteren of ChatGPT-gebruikers jonger zijn dan 18 jaar en controles waarmee ouders "blackout-uren" kunnen instellen waarop een tiener ChatGPT niet mag gebruiken. Het bedrijf zei dat het zal proberen contact op te nemen met de ouders van de gebruikers als een gebruiker jonger dan 18 jaar suïcidale gedachten heeft en, indien het niet lukt hen te bereiken, de autoriteiten zal inschakelen in geval van dreigend gevaar.

"Wij zijn van mening dat minderjarigen aanzienlijke bescherming nodig hebben", aldus Sam Altman, CEO van OpenAI, in een verklaring waarin de voorgestelde wijzigingen werden uiteengezet.

Kinderbeschermingsorganisaties bekritiseerden de aankondiging omdat ze vonden dat deze onvoldoende was.

"Dit is een vrij gebruikelijke tactiek — eentje die Meta constant gebruikt — waarbij er vlak voor een hoorzitting een grote, opvallende aankondiging wordt gedaan die schadelijk kan zijn voor het bedrijf", aldus Josh Golin, directeur van Fairplay, een groep die zich inzet voor de online veiligheid van kinderen.

"Wat ze zouden moeten doen, is ChatGPT niet op minderjarigen richten totdat ze kunnen bewijzen dat het veilig voor hen is", aldus Golin. "We zouden bedrijven niet moeten toestaan, alleen maar omdat ze over enorme middelen beschikken, ongecontroleerde experimenten op kinderen uit te voeren, terwijl de gevolgen voor hun ontwikkeling zo groot en verreikend kunnen zijn."

Senator Steve Padilla van de staat Californië, die wetgeving heeft ingediend om AI-chatbots in de staat te beschermen, zei in een verklaring aan CBS News: "We moeten maatregelen nemen die gebaseerd zijn op gezond verstand en die de slechtste impulsen van deze opkomende technologie, die zelfs de techsector niet volledig begrijpt, in toom houden."

Hij voegde eraan toe dat technologiebedrijven wereldwijd koploper kunnen zijn op het gebied van innovatie, maar dat dit niet ten koste mag gaan van "de gezondheid van onze kinderen".

De Federal Trade Commission maakte vorige week bekend dat ze een onderzoek is gestart naar verschillende bedrijven over de mogelijke gevaren voor kinderen en tieners die hun AI-chatbots als gezelschap gebruiken.

Het bureau stuurde brieven naar Character, Meta en OpenAI, en ook naar Google, Snap en xAI.

Als u of iemand die u kent in emotionele nood of een suïcidale crisis verkeert, kunt u de 988 Suicide & Crisis Lifeline bereiken door te bellen of te sms'en naar 988. U kunt ook hier chatten met de 988 Suicide & Crisis Lifeline. Voor meer informatie over geestelijke gezondheidszorg en ondersteuning kunt u de hulplijn van de National Alliance on Mental Illness (NAMI) bereiken van maandag tot en met vrijdag van 10.00 tot 22.00 uur ET, via 1-800-950-NAMI (6264) of e-mailen naar [email protected].

Cara Tabachnick heeft bijgedragen aan dit rapport.