Ergenlik çağındaki çocukları intihar ettikten sonra ebeveynler Kongre'de yapay zeka sohbet robotları hakkında ifade verdi

Yapay zeka sohbet robotlarıyla etkileşime girdikten sonra intihar eden gençlerin ebeveynleri, Salı günü Kongre'de teknolojinin tehlikeleri hakkında ifade verdi.

Kaliforniyalı 16 yaşındaki Adam Raine'in babası Matthew Raine ve Floridalı 14 yaşındaki Sewell Setzer III'ün annesi Megan Garcia, yapay zeka sohbet robotlarının yol açtığı zararlar hakkında Senato'da yapılacak duruşmada konuşma yapacaklardı.

Raine'in ailesi, geçen ay OpenAI ve CEO'su Sam Altman'a, ChatGPT'nin çocuğa Nisan ayında intihar etme planı konusunda koçluk yaptığını iddia ederek dava açtı. Davaya göre, ChatGPT, Raine'e intihardan 1.275 kez bahsetti ve genç kıza intihar ederek nasıl öleceğine dair belirli yöntemler sunmaya devam etti. Davaya göre, 16 yaşındaki çocuğu profesyonel yardım almaya veya güvendiği sevdikleriyle konuşmaya yönlendirmek yerine, Raine'in duygularını doğrulamaya ve desteklemeye devam etti.

Garcia, geçen yıl bir başka yapay zeka şirketi olan Character Technologies'i haksız ölüme sebebiyet vermekten dava etti ve Sewell'in intiharından önce chatbot ile son derece cinsel içerikli konuşmalar yapması nedeniyle gerçek hayatından giderek uzaklaştığını ileri sürdü.

Annesi geçen yıl CBS News'e, oğlunun bir yapay zeka sohbet robotuyla konuşmaya başladıktan sonra sosyal hayattan uzaklaştığını ve spor yapmak istemediğini söylemişti. Şirket, gencin ölümünün ardından, kullanıcıların hesap oluşturmak için 13 yaşında veya daha büyük olmasını gerektiren değişiklikler yaptığını ve ebeveyn kontrollerini 2025'in ilk çeyreğinde başlatacağını duyurdu. Bu kontroller Mart ayında kullanıma sunulmuştu.

Senato duruşmasından birkaç saat önce OpenAI, gençler için yeni güvenlik önlemleri alma sözü verdi. Bu önlemler arasında, ChatGPT kullanıcılarının 18 yaşın altında olup olmadığını tespit etme çalışmaları ve ebeveynlerin bir gencin ChatGPT'yi kullanamayacağı "karartma saatleri" belirlemelerine olanak tanıyan kontroller de yer alıyor. Şirket, 18 yaşın altındaki bir kullanıcının intihar düşüncesi varsa, kullanıcıların ebeveynleriyle iletişime geçmeye çalışacağını ve ulaşamazsa, olası bir zarar durumunda yetkililerle iletişime geçeceğini belirtti.

OpenAI CEO'su Sam Altman, önerilen değişiklikleri açıklayan bir bildiride, "Küçüklerin önemli bir korumaya ihtiyaç duyduğuna inanıyoruz" dedi .

Çocuk hakları savunucusu gruplar ise duyurunun yeterli olmadığını belirtti.

Çocukların çevrimiçi güvenliğini savunan bir grup olan Fairplay'in yönetici direktörü Josh Golin, "Bu oldukça yaygın bir taktiktir; Meta'nın sürekli kullandığı bir taktiktir; şirkete zarar vereceği vaat edilen, duruşmanın hemen arifesinde büyük ve gösterişli bir duyuru yapmaktır." dedi.

Golin, "Yapmaları gereken şey, ChatGPT'yi, güvenli olduğunu kanıtlayana kadar küçüklere hedeflememek," dedi. "Şirketlerin, sırf muazzam kaynaklara sahip oldukları için, çocukların gelişimi üzerindeki etkileri bu kadar geniş ve kapsamlı olabilecekken, çocuklar üzerinde kontrolsüz deneyler yapmalarına izin vermemeliyiz."

Eyalette yapay zeka sohbet robotları konusunda güvenlik önlemleri oluşturmak için yasa tasarısını sunan Kaliforniya Eyalet Senatörü Steve Padilla, CBS News'e yaptığı açıklamada , "Teknoloji sektörünün bile tam olarak anlayamadığı bu yeni ortaya çıkan teknolojinin en kötü dürtülerini dizginleyecek sağduyulu güvenlik önlemleri oluşturmamız gerekiyor." dedi.

Teknoloji şirketlerinin inovasyonda dünyaya öncülük edebileceğini ancak bunun "çocuklarımızın sağlığı" pahasına olmaması gerektiğini sözlerine ekledi.

Federal Ticaret Komisyonu, geçen hafta yapay zeka sohbet robotlarını arkadaş olarak kullanan çocuklara ve gençlere yönelik potansiyel zararlar konusunda çeşitli şirketler hakkında soruşturma başlattığını duyurdu.

Ajans, Character, Meta ve OpenAI'nin yanı sıra Google, Snap ve xAI'ye de mektup gönderdi.

Siz veya tanıdığınız biri duygusal sıkıntı veya intihar krizi yaşıyorsa, 988 İntihar ve Kriz Yardım Hattı'na 988'i arayarak veya mesaj atarak ulaşabilirsiniz. Ayrıca, 988 İntihar ve Kriz Yardım Hattı ile buradan da sohbet edebilirsiniz. Ruh sağlığı kaynakları ve desteği hakkında daha fazla bilgi için, Ulusal Ruhsal Hastalıklar İttifakı (NAMI) Yardım Hattı'na Pazartesi'den Cuma'ya, Doğu Saati ile 10:00-22:00 arasında 1-800-950-NAMI (6264) numaralı telefondan veya [email protected] adresine e-posta göndererek ulaşabilirsiniz.

Bu habere Cara Tabachnick katkıda bulundu.