Sam Altman'ın ChatGPT'nin 'tüm hayatınızı' hatırlaması hedefi hem heyecan verici hem de rahatsız edici

OpenAI CEO'su Sam Altman, bu ayın başlarında VC firması Sequoia tarafından düzenlenen bir yapay zeka etkinliğinde ChatGPT'nin geleceği için büyük bir vizyon ortaya koydu.

Katılımcılardan birinin ChatGPT'nin nasıl daha kişiselleştirilebilir hale getirilebileceği sorusuna Altman, modelin nihayetinde bir kişinin hayatındaki her şeyi belgelemesini ve hatırlamasını istediğini söyledi.

İdeal olanın, "tüm hayatınızı koyacağınız, bir trilyon bağlam belirtecine sahip çok küçük bir akıl yürütme modeli" olduğunu söyledi.

"Bu model tüm bağlamınız boyunca akıl yürütebilir ve bunu verimli bir şekilde yapabilir. Ve hayatınızda yaptığınız her konuşma, okuduğunuz her kitap, okuduğunuz her e-posta, baktığınız her şey oradadır, ayrıca diğer kaynaklardan gelen tüm verilerinize bağlıdır. Ve hayatınız bağlama eklenmeye devam ediyor," diye açıkladı.

"Şirketiniz aynı şeyi şirketinizin tüm verileri için yapıyor" diye ekledi.

Altman'ın ChatGPT'nin doğal geleceğinin bu olduğunu düşünmesi için veri odaklı bir nedeni olabilir. Aynı tartışmada, gençlerin ChatGPT'yi kullanmalarının havalı yolları sorulduğunda, "Üniversitedeki insanlar bunu bir işletim sistemi olarak kullanıyor." dedi. Dosyaları yüklüyorlar, veri kaynaklarını bağlıyorlar ve sonra bu verilere karşı "karmaşık istemler" kullanıyorlar.

Ayrıca, ChatGPT'nin önceki sohbetleri ve ezberlenmiş gerçekleri bağlam olarak kullanabilen bellek seçenekleriyle ilgili fark ettiği bir eğilimin, gençlerin "ChatGPT'ye sormadan hayat kararları almaması" olduğunu söyledi.

"Büyük bir basitleştirme: Yaşlı insanlar ChatGPT'yi Google'ın bir yedeği gibi kullanıyor," dedi. "20'li ve 30'lu yaşlardaki insanlar onu bir hayat danışmanı gibi kullanıyor."

ChatGPT'nin her şeyi bilen bir AI sistemi haline gelebileceğini görmek çok da zor değil. Valley'nin şu anda inşa etmeye çalıştığı ajanlarla birlikte düşünüldüğünde, bu heyecan verici bir gelecek.

Yapay zekanızın arabanızın yağ değişimlerini otomatik olarak planlayıp size hatırlattığını; şehir dışında yapacağınız bir düğün için gerekli seyahati planlayıp hediyeyi sipariş ettiğini; veya yıllardır okuduğunuz kitap serisinin bir sonraki cildini önceden sipariş ettiğini hayal edin.

Ama korkutucu olan kısım? Hayatlarımız hakkında her şeyi bilmesi için kar amacı güden bir Büyük Teknoloji şirketine ne kadar güvenmeliyiz? Bunlar her zaman örnek davranışlar sergilemeyen şirketlerdir.

Hayatına "Kötü olma" sloganıyla başlayan Google, ABD'de rekabeti engelleyici, tekelci davranışlarda bulunduğu iddiasıyla açılan davayı kaybetti .

Sohbet robotları politik olarak motive edilmiş şekillerde yanıt vermek üzere eğitilebilir. Sadece Çin botlarının Çin'in sansür gerekliliklerine uyduğu görülmekle kalmadı, aynı zamanda xAI'nin sohbet robotu Grok bu hafta insanlar ona tamamen alakasız sorular sorduğunda rastgele bir Güney Afrika "beyaz soykırımı" hakkında konuşuyordu . Birçok kişi , bu davranışın Güney Afrika doğumlu kurucusu Elon Musk'ın emriyle yanıt motorunun kasıtlı olarak manipüle edildiğini ima ettiğini belirtti.

Geçtiğimiz ay, ChatGPT o kadar sevimli hale geldi ki düpedüz dalkavukluk yaptı . Kullanıcılar botun sorunlu, hatta tehlikeli kararları ve fikirleri alkışladığı ekran görüntülerini paylaşmaya başladı. Altman, ekibin soruna neden olan ince ayarı düzelttiğine dair söz vererek hemen yanıt verdi.

En iyi, en güvenilir modeller bile zaman zaman uydurma şeyler üretebiliyor.

Yani, her şeyi bilen bir AI asistanına sahip olmak, hayatımıza ancak görmeye başlayabildiğimiz şekillerde yardımcı olabilir. Ancak Büyük Teknoloji'nin uzun süredir belirsiz davranış geçmişi göz önüne alındığında, bu aynı zamanda kötüye kullanılmaya müsait bir durumdur.