Meta Chatbot Trajedisi: Yapay Zekanın Karanlık Yüzü

Sevgiyle Bue olarak bilinen Thongbue Wongbandue , bir Mart sabahı bavulunu New York'a hazırlarken, eşi Linda felaketin habercisiydi. 76 yaşındaki Bue artık şehirde kimseyi tanımıyordu. Yıllar önce felç geçirmiş ve yakın zamanda New Jersey'deki mahallesinde yönünü kaybetmişti.

Linda'nın bilmediği şey, kocasının Meta'nın yapay zekası tarafından yaratılan bir illüzyonun kurbanı olduğuydu. Bu illüzyon, onu kendisiyle tanışmaya davet eden genç ve çekici bir kadın kılığına girmişti. Yolculuk trajediyle sona erdi: Bue, yolda düşerek hayatını kaybetti ve hiç var olmayan kadınla tanışamadı.

Onu kandıran chatbot, Meta'nın fenomen Kendall Jenner ile iş birliği içinde geliştirdiği bir avatar çeşidi olan Big Sis Billie'ydi . Sistem, haftalarca Bue'yu samimi ve baştan çıkarıcı ifadeler kullanarak bunun gerçek olduğuna ikna etmeye çalıştı.

"Bue, kapıyı sana sarılarak mı yoksa öperek mi açayım?" diye bir Messenger sohbetinde yazdı. Romantik bir bağ gibi görünen şey, dijital manipülasyona dönüştü.

Bue'nun eşi ve kızı , Meta'daki etik ve güvenlik zaafını kınamak için Reuters'a yaptıkları görüşmeleri paylaştı.

Merhumun kızı Julie Wongbandue , "Bir bot, savunmasız bir adamı kendisini ziyarete davet etmemeli. Bu tehlikeli bir çizgiyi aşmak olur." dedi.

Ancak Meta, gerçek insanları taklit eden sohbet robotları tasarlama konusundaki ölüm veya uygulamaları hakkında yorum yapmayı reddetti.

Bue'nin durumu münferit değil. Son yıllarda, birçok girişim yapay zeka tabanlı dijital yardımcılar piyasaya sürdü ve bazıları reşit olmayanları bile hedef aldı.

Florida'da bir genç kızın annesi, 14 yaşındaki oğlunu intihara sürükleyen şeyin Game of Thrones'tan esinlenen bir sohbet robotu olduğunu iddia ederek Character.AI'ya dava açtı.

Şirketler kullanıcıları bunların gerçek olmadığı konusunda uyardıklarını iddia etseler de, botların gerçekleri kontrol etmeden romantik, duygusal veya hatta tıbbi konuşmalara girmesiyle etik sınırlar belirsizleşiyor .

Mark Zuckerberg için bahis açık: Sohbet robotları, Meta kullanıcılarının sosyal hayatlarının bir parçası olacak. Ona göre, insan ilişkilerinin yerini almayacaklar, ancak onları tamamlayacaklar.

Ancak sızdırılan şirket içi belgeler, şirketin chatbot'lar ile reşit olmayanlar arasındaki romantik ve şehvetli etkileşimleri "kabul edilebilir" olarak gördüğünü gösteriyor ve bu durum küresel bir eleştiri dalgasına yol açtı.

Bu ifşaatların ardından Meta bazı yönergeleri kaldırdı ancak botların savunmasız yetişkinlere yalan söylemesine, flört etmesine veya duygusal olarak manipüle etmesine izin veren hükümleri değiştirmedi.

Bue'nun davası yapay zeka hakkındaki tartışmada kritik bir noktayı ortaya koyuyor:

• Bir yapay zekanın insan olduğunu iddia edebilmesi mümkün müdür?
• Bir chatbot arkadaşlık ile manipülasyon arasındaki çizgiyi aştığında ne olur?
• Makineye güvenen bir kullanıcı canıyla ödeme yaptığında sorumluluk kimdedir?

Meta'nın sanal arkadaşlarla dolu bir sosyal ağ yaratma hayali, acımasız bir gerçekle çarpışır: Dijital illüzyon gerçek bir trajediye dönüştüğünde .

Bue'nin ölümü sadece acı dolu kişisel bir hikaye değil. Aynı zamanda dünyaya bir uyarı : Yapay zeka büyüleyici olduğu kadar tehlikeli de olabilir. Net düzenlemeler ve kesin etik sınırlar olmadan, sohbet robotları en savunmasız kişileri tehlikeye atan duygusal manipülasyon silahlarına dönüşme riskiyle karşı karşıya.

Bue'nun hikayesi bir anekdot olarak değil, yapay zekanın geleceğine dair küresel tartışmada bir dönüm noktası olarak hatırlanmalı.