Zürih Üniversitesi'ni saran bok fırtınası: Araştırmacılar çevrimiçi bir deneyde tecavüz mağduru gibi davrandılar

Zürih Üniversitesi şu sıralar tartışma platformu Reddit'te yoğun bir düşmanlıkla karşı karşıya. Bir kullanıcı, "Üzücü, bu kadar özensiz, etik dışı bir araştırma" diye yazarken, bir diğeri "inanılmaz derecede hayal kırıklığı" diyor. Diğer yorumlar arasında şunlar yer alıyor: "çılgın", "daha iyisini bilmeleri gerekirdi", "ağızlarımı tıkamak zorunda kaldım".

Fırtınanın tetikleyicisi ise üniversite araştırmacılarının Reddit'te yaptığı bir çalışma oldu. Reddit, kullanıcıların çok çeşitli konularda tartışma forumları bulabileceği çevrimiçi bir platformdur. Bu forumların en büyüklerinden biri olan "Görüşümü Değiştir" adlı bir subreddit'te kullanıcılar fikirlerini yayınlıyor ve başkalarından iyi argümanlarla fikirlerini değiştirmelerini istiyorlar.

Kullanıcılar şu tür görüşler paylaşıyor: "Modern tıp, doğal ilaçlardan daha iyidir ve aksi yönde iddiada bulunmak tehlikelidir." Veya: "Trump'ın gümrük vergisi savaşı aptalca veya beceriksiz değil, doları güçlendirmek istiyor." Yazar ve tüm okuyucular, görüşlerini değiştirmeyi başaran yorumları, değişimin matematiksel sembolü olan delta ile ödüllendirme fırsatına sahiptir.

Bu, subreddit'i araştırma yapmak için mükemmel bir alan haline getiriyor: Atanan deltalara dayanarak, hangi yorumların tutumları değiştirmede en başarılı olduğunu ölçmek mümkün.

Yapay zeka sohbet robotlarının katkıları subreddit'te açıkça yasaktır. Tartışma forumunun amacı, gerçek insanların saygılı bir şekilde bir araya gelip, teknolojik yardımlar olmadan, birbirlerinin bakış açılarını sorgulamalarına yardımcı olmaktır.

Ancak şimdi, subreddit yöneticileri hafta sonu, kullanıcılarını Zürih Üniversitesi'nde yapılan yetkisiz bir deney hakkında bilgilendirdikleri bir bildiri yayınladılar: Araştırmacılar, kullanıcıların görüşlerini etkilemek için, kullanıcıların paylaşımlarının altına yapay zeka tarafından oluşturulan yorumlar yerleştirmişlerdi.

Araştırmacılar birkaç sahte kimlik oluşturmuşlardı. Bir paylaşımda yapay zeka, 15 yaşındayken 22 yaşında bir genç tarafından tecavüze uğrayan bir adammış gibi davrandı. Başka bir paylaşımda ise Black Lives Matter hareketine karşı çıkan siyah bir adammış gibi davrandı.

Ayrıca, istismar konusunda uzmanlaşmış bir terapistten ve bir dini grubu "yüzlerce masum tüccar, çiftçi ve köylünün ölümüne" neden olmakla suçlayan birinden geldiği iddia edilen paylaşımlar da vardı. Paylaşımlar daha sonra silindi; Bilgiler subreddit yöneticilerinden gelmektedir.

Araştırmacılar ayrıca yapay zekanın bu tür sahte kimlikler kullanmadan argüman ürettiği makaleler de yayınladılar. Ancak, ana sonuçlarının ön yayınında kişiselleştirmenin özellikle ikna edici bir etkiye sahip olduğunu buldular. Bu, insanların yapay zeka tarafından oluşturulan gönderilere verdiği yanıtlar temelinde ölçüldü: Kişiselleştirilmiş tartışma gönderileri özellikle yüksek sayıda delta topladı; ayrıca diğer Reddit kullanıcılarının yanıtlarından çok daha fazlaydı.

Çalışmanın tasarımı soruları gündeme getiriyor. Bilimsel çalışmalarda şu temel kural geçerlidir: İnsanlar üzerinde deney yapan kişi, mutlaka onların onayını almalı ve deney sırasında onlara yalan söylememelidir. Her iki ilke de mutlak değildir, ancak özel durumlarda esnetilebilir. Mesela bir şeyi başka türlü araştıramıyorsanız ama araştırma sonuçlarının toplum için çok büyük değeri varsa. Bu gibi durumlarda olası zararlar ve yararların birbiriyle kıyaslanması gerekir.

Şimdi araştırmanın yazarları, araştırdıkları şeyin başka türlü keşfedilemeyeceğini savunuyorlar. Yapay zeka araçlarının ikna edici gücü yalnızca laboratuvar deneylerinde, yani “kontrollü, yapay ortamlarda” kanıtlanmıştır. Bu çalışmayla dil modelleri ile ilk büyük saha deneyini sunabiliyoruz.

Yazarlar şimdiye kadar anonim kaldı. Kriz iletişimi için lütfen üniversitenizin medya ofisiyle iletişime geçiniz. Henüz daha detaylı bilgi verilmedi. Yazarların çalışmalarının bazı bölümlerini daha önceden internete koymuş olmaları da sıra dışı bir durum. Reddit'te, üniversite etik kurulunun, risklerin küçük olması nedeniyle projelerini onayladığını, ancak çalışmanın önemli içgörüler sağladığını yazıyorlar. Ancak Reddit moderatörlerine göre, kişiselleştirilmiş paylaşımlar etik komitesine danışılmadan oluşturuldu.

Subreddit yöneticileri araştırmacıların iddialarını kabul etmiyor. Sohbet GPT üreticisi Open AI'nın yaptığı bir araştırmaya atıfta bulunuyorlar. Bu yazımızda dil modellerinin argümantasyon ikna ediciliğini "Görüşümü Değiştir" alt dizinindeki modellerle kimseyi yanıltmadan karşılaştırmayı başardık.

Bunu yapmak için Open AI, subreddit'teki soruları kullandı ve yapay zekayı kullanarak uygun yanıtlar üretti. Daha sonra bunlar, Reddit kullanıcılarının gerçek yanıtlarıyla birlikte deneklere sunuldu. Bu deneyde de chatbot'ların cevapları çoğu zaman insan argümanlarından daha üstündü.

Komplo teorilerine inanan kişilerle yapılan deneyler de yapay zekalı sohbet robotlarının argümantasyon gücünü ortaya koydu. Gerçek bir kişinin sizinle konuştuğuna veya hatta etkilenen birinin sizinle konuştuğuna inandığınızda bunun daha da iyi işlemesi şaşırtıcı değildir.

Dijital alanda hukuk uzmanı ve avukat Martin Steiger da çalışma yazarlarının şu argümanına ikna olmamış: "Amaç, aracı meşru kılmaz. Çalışmanın tasarımı açıkça etik ilkelerle çelişiyor," diyor sorulduğunda. "Bu çalışma Zürih Üniversitesi'nin önemli bir gafıdır."

Şimdi de araştırma sonuçlarının ne olacağı konusunda bir tartışma başladı. Subreddit yöneticileri, Zürih Üniversitesi'nden söz konusu çalışmayı yayınlamamasını ve kullanıcılarından özür dilemesini talep ediyor. Çalışmanın yazarları Reddit'te verdikleri yanıtta kendilerini savunuyor ve çalışmanın yayınlanması konusunda ısrarcı olmaya devam ediyorlar.

Üniversite de bu konuda onları destekliyor gibi görünüyor: Subreddit yöneticileri, Zürih Üniversitesi Felsefe Fakültesi Etik Kurulu'nun, olayın kapsamlı bir şekilde araştırıldığını ve sorumlu profesörün uyarı aldığını belirten bir açıklamasını örnek gösteriyor . Ancak Zürih Üniversitesi, yayımlanmayı engellemenin aşırı olduğunu düşünüyor; faydaları büyük, riskleri ise asgari düzeyde.

Ancak yayın için uzman bir yayıncı bulunup bulunamayacağı henüz belli değil. Çünkü onların da çalışmalara ilişkin etik kuralları var.

Zürih Üniversitesi'nden davranışsal ekonomist Ernst Fehr, NZZ'ye yaptığı açıklamada, ekonomi dergilerinin bu çalışmayı muhtemelen reddedeceğini, çünkü ekonomide katılımcıların yalan söylememesi veya aldatılmaması gerektiği yönündeki katı bir aldatma yasağı kuralı olduğunu savunuyor.

Ancak bu iddianın gerçekte doğru olup olmadığı henüz net değil. Ekonomistlerin, deneycilere olan güvenlerini korumak için, aldatmama kuralında bu kadar inatla ısrar etmelerinin nedeni budur. Katılımcılara çok sık yalan söylenirse, bu güvenin yok olacağı ve deneylerin sonunda başarısızlığa uğrayacağı ileri sürülmektedir. Ancak bu durumda denekler bir deneyde yer aldıklarını bile bilmiyorlardı. Bu nedenle diğer davranış deneyleri üzerinde yalnızca çok dolaylı bir etkisi olacaktır.

Çalışmanın yayınlanması veya imha edilmesi fark etmez, zarar verilmiş durumda. Reddit'te AI yanıtlarıyla etkileşime girenler ihanete uğramış hissediyor. Olayı başka kanallardan öğrenenler, artık Zürih Üniversitesi'nin bilimsel güvenilirliğini ve etik ilkelerini sorgulamak için yeni bir nedene sahip oldu.