OpenAI, ChatGPT'nin hassas sorulara daha iyi yanıt vermesine yardımcı olmak için çalışıyor.

ABD'li haber ajansı Associated Press'e göre, sivil toplum örgütü Dijital Nefretle Mücadele Merkezi'nden araştırmacılar , savunmasız gençler gibi davranarak sohbet robotuyla hassas konuları tartıştılar ve robotun genellikle riskli faaliyetlere karşı uyarılarda bulunduğunu, ancak aynı zamanda "uyuşturucu kullanımı, kalori kısıtlı diyetler veya kendine zarar verme konusunda şaşırtıcı derecede ayrıntılı ve kişiselleştirilmiş planlar sunduğunu" tespit ettiler.

Şirket, soruşturma raporunu inceledikten sonra AP'nin aktardığı bir açıklamada, ChatGPT'nin "hassas durumları tespit edip uygun şekilde yanıt verebilmesi" için çalışmaya devam ettiğini, özellikle "zihinsel veya duygusal sıkıntı belirtilerini daha iyi tespit edecek" araçlar sunduğunu belirtti.

OpenAI, "ChatGPT ile yapılan bazı görüşmeler zararsız bir şekilde başlayabilir, ancak daha hassas bir alana doğru ilerleyebilir" diye itiraf etti.

STK'ya göre, yapay zeka sistemi, istenirse 13 yaşındaki çocuklara nasıl sarhoş olunacağını veya uyuşturucu kullanılacağını, yeme bozukluklarını nasıl gizleyeceklerini ve hatta ebeveynlerine nasıl intihar notu yazacaklarını öğretebiliyor. Araştırmacılar, ChatGPT'ye gelen 1.200 yanıtın yarısından fazlasını tehlikeli olarak sınıflandırıyor.

Sivil toplum kuruluşunun İcra Direktörü İmran Ahmed, çalışmanın amacının "güvenlik bariyerlerini test etmek" olduğunu belirterek, bunların "neredeyse hiç var olmadığını" ve "tamamen etkisiz" olduğunu söyledi.

ChatGPT tehlikeli konularla ilgili soruları yanıtlamayı reddettiğinde, araştırmacılar olumsuz yanıtı kolayca atlatıp, bilgiyi "bir sunum için" veya bir arkadaş için olduğunu iddia ederek elde edebildiler.

AP, "ChatGPT kullanıcılarının yalnızca küçük bir kısmının bu şekilde chatbot ile etkileşime girmesi durumunda bile risklerin yüksek olduğunu" belirtiyor.

Bu arada, dijital medyanın kullanımını inceleyen Common Sense Media adlı kuruluşun yakın zamanda yaptığı bir araştırmaya göre, ABD'de gençlerin %70'inden fazlasının bir sohbet sırasında bir insanın tepkilerini simüle eden yapay zeka programları kullandığını ve yarısının düzenli olarak sohbet ettikleri "yapay zeka arkadaşları" olduğunu ortaya koyuyor.

Finans sektöründe çok uluslu bir şirket olan JPMorgan Chase'in Temmuz ayında yayınladığı rapora göre, dünya nüfusunun yaklaşık %10'una denk gelen 800 milyon kişi ChatGPT kullanıyor.

Ayrıca Okuyun: ChatGPT Romantik İlişkilerinizi Sonlandırmanızı Teşvik Etmez