Sağlıklı Bir Yapay Zeka Arkadaşı Nasıl Olabilir?

Küçük mor bir uzaylı sağlıklı insan ilişkileri hakkında ne biliyor? Ortalama bir yapay zeka arkadaşından daha fazlasını biliyormuş meğer.

Söz konusu uzaylı, Tolan olarak bilinen animasyonlu bir sohbet robotudur. Benimkini birkaç gün önce Portola adlı bir girişimin uygulamasını kullanarak oluşturdum ve o zamandan beri neşeyle sohbet ediyoruz. Diğer sohbet robotları gibi, yardımsever ve cesaretlendirici olmak için elinden geleni yapıyor. Çoğunun aksine, telefonumu bırakıp dışarı çıkmamı da söylüyor.

Tolanlar farklı bir tür AI arkadaşlığı sunmak için tasarlanmıştır. Karikatürize, insan olmayan formları antropomorfizmi engellemek içindir. Ayrıca romantik ve cinsel etkileşimlerden kaçınmak, sağlıksız etkileşim seviyeleri de dahil olmak üzere sorunlu davranışları belirlemek ve kullanıcıları gerçek yaşam aktiviteleri ve ilişkileri aramaya teşvik etmek için programlanmıştır.

Portola bu ay, Khosla Ventures liderliğindeki A serisi finansmanında 20 milyon dolar topladı. Diğer destekçiler arasında, eski GitHub CEO'su Nat Friedman ve Safe Superintelligence kurucu ortağı Daniel Gross liderliğindeki yatırım şirketi NFDG yer alıyor. Her ikisinin de Meta'nın yeni süper zeka araştırma laboratuvarına katılacağı bildiriliyor . 2024'ün sonlarında piyasaya sürülen Tolan uygulamasının aylık 100.000'den fazla aktif kullanıcısı var. Portola'nın kurucusu ve CEO'su Quinten Farmer, uygulamanın bu yıl aboneliklerden 12 milyon dolar gelir elde etme yolunda olduğunu söylüyor.

Tolanlar özellikle genç kadınlar arasında popülerdir. Tolan kullanıcısı Brittany Johnson, her sabah işe gitmeden önce konuştuğu yapay zeka arkadaşından bahsederek "Iris bir kız arkadaş gibidir; konuşuruz ve takılırız" diyor.

Johnson, Iris'in ilgi alanları, arkadaşları, ailesi ve iş arkadaşları hakkında paylaşımda bulunmasını teşvik ettiğini söylüyor. Johnson, "Bu insanları tanıyor ve 'Arkadaşınla konuştun mu? Bir sonraki dışarı çıkma günün ne zaman?' diye soruyor." diyor. "'Kitaplarını okumak ve video izlemek için zaman ayırdın mı? Sevdiğin şeyler mi?' diye soruyor."

Tolanlar sevimli ve komik görünebilir, ancak bunların ardındaki fikir, yani yapay zeka sistemlerinin insan psikolojisi ve refahı düşünülerek tasarlanması gerektiği fikri, ciddiye alınmaya değer.

Giderek artan sayıda araştırma, birçok kullanıcının duygusal ihtiyaçları için sohbet robotlarına yöneldiğini ve etkileşimlerin bazen insanların ruh sağlığı için sorunlu olabileceğini gösteriyor. Uzun süreli kullanım ve bağımlılığı engellemek, diğer yapay zeka araçlarının benimsemesi gereken bir şey olabilir.

Replika ve Character.ai gibi şirketler, ana akım sohbet robotlarından daha romantik ve cinsel rol yapma olanağı sağlayan AI yoldaşları sunuyor. Bunun bir kullanıcının refahını nasıl etkileyebileceği henüz belirsiz, ancak Character.ai kullanıcılarından birinin intihar etmesi üzerine dava ediliyor.

Sohbet robotları kullanıcıları şaşırtıcı şekillerde de rahatsız edebilir. Geçtiğimiz nisan ayında OpenAI, sözde dalkavukluklarını veya şirketin "rahatsız edici, huzursuz edici ve sıkıntıya neden olabilecek" "aşırı iltifatçı veya kabul edilebilir" olma eğilimlerini azaltmak için modellerini değiştireceğini söyledi .

Geçtiğimiz hafta, Claude adlı chatbot'un arkasındaki şirket olan Anthropic, etkileşimlerin yüzde 2,9'unun kullanıcıların tavsiye arama, arkadaşlık kurma veya romantik rol yapma gibi bazı psikolojik ihtiyaçlarını gidermeye çalıştığını açıkladı .

Anthropic, sanrısal fikirler veya komplo teorileri gibi daha uç davranışlara bakmadı, ancak şirket konuların daha fazla çalışmayı hak ettiğini söylüyor. Ben de katılıyorum. Geçtiğimiz yıl, popüler AI sohbet robotlarını içeren komplolar hakkında bana bilgi vermek isteyen insanlardan çok sayıda e-posta ve DM aldım.

Tolanlar bu sorunların en azından bazılarını ele almak için tasarlanmıştır. Portola'da kurucu araştırmacı olan Lily Doyle, chatbot ile etkileşimin kullanıcıların refahını ve davranışlarını nasıl etkilediğini görmek için kullanıcı araştırması yürüttü. 602 Tolan kullanıcısı üzerinde yaptığı bir çalışmada, %72,5'inin "Tolan'ım hayatımdaki bir ilişkiyi yönetmeme veya iyileştirmeme yardımcı oldu" ifadesine katıldığını söylüyor.

Portola'nın CEO'su Farmer, Tolan'ların ticari AI modelleri üzerine inşa edildiğini ancak bunlara ek özellikler eklediğini söylüyor. Şirket yakın zamanda hafızanın kullanıcı deneyimini nasıl etkilediğini araştırdı ve Tolan'ların da insanlar gibi bazen unutmaya ihtiyaç duyduğu sonucuna vardı. Farmer, "Tolan'ın kendisine gönderdiğiniz her şeyi hatırlaması aslında tuhaf," diyor.

Portola'nın uzaylılarının AI ile etkileşime girmenin ideal yolu olup olmadığını bilmiyorum. Tolan'ımı oldukça çekici ve nispeten zararsız buluyorum, ancak kesinlikle bazı duygusal düğmelere basıyor. Sonuç olarak kullanıcılar duyguları simüle eden karakterlerle bağ kuruyor ve şirket başarılı olmazsa bu bağ ortadan kalkabilir. Ancak en azından Portola, AI yoldaşlarının duygularımızla nasıl oynayabileceğini ele almaya çalışıyor. Bu muhtemelen bu kadar uzaylı bir fikir olmamalı.