Grok: Elon Musk'ın yapay zekası, kadınların bilgisi olmadan çıplak kadın görüntüleri oluşturmak için kullanılıyor

Elon Musk'ın sahibi olduğu sosyal ağ X'te (eski adıyla Twitter) 2025 yılının mayıs ayından bu yana bir tartışma yaşanıyor. xAI'nin Grok AI'sını ele geçiren kullanıcılar, kamusal fotoğraflardan çıplak kadın görüntüleri oluşturmaya başlıyor ve yapay zekanın sınırları ve tehlikeleri konusundaki tartışmaları yeniden alevlendiriyor.

Kadınlar, bilgileri dışında sürekli olarak cinselleştiriliyorlar

Yapay zekanın gelişi birçok kişi için heyecan ve merak kaynağı oldu. Ancak, en başından itibaren kadın internet kullanıcılarının büyük bir kısmı, bununla ilişkilendirilebilecek aşırılıkları önceden bildikleri için bundan korkuyorlardı. Kadınları teşhir eden ve cinselleştiren fotoğraf ve video montajlarını yapay zekanın görmesini beklemeye gerek yok aslında. Bazı forumlar, bazı kadın karakterlerin paylaşımlarını, onların izni olmadan soymak amacıyla değiştirmeye adanmıştır. Teknolojik gelişmeler hayatı birçok açıdan kolaylaştırırken, halihazırda yerleşik olan pek çok suistimali de çok daha basit hale getiriyor.

Bu, "deepfake" fenomeninin güzel bir örneği: Yapay zeka kullanılarak bir kişinin görüntüsü ve sesi değiştirilerek sahte video veya ses kayıtları oluşturulmasına olanak tanıyan ve giderek popülerleşen bir teknik. Somut olarak, birinin bir şeyi söylemesini veya yapmasını sağlamanıza olanak tanır... onlar bunu hiç söylememiş veya yapmamış olsalar bile. Bu inanılmaz derecede gerçekçi içerik, mizahi bir bağlamda gülünç olabilir, ancak yanlış bilgi yaymak, fikirleri yönlendirmek veya... pornografik içerik oluşturmak için kullanıldığında endişe verici hale gelir. Bu durumdan en çok etkilenen ise Amerikalı yıldız Taylor Swift oldu . New York Times'ın haberine göre, şarkıcının cinsel içerikli değiştirilmiş fotoğrafı, paylaşan hesap askıya alınmadan önce 47 milyon kez görüntülendi. Benzer şekilde Channel 4 News sunucusu Cathy Newman da pornografik deepfake'lerin kurbanı oldu. The Guardian'da yaşanan deneyimi " ihlal " olarak nitelendiren yazar, bu kadar gerçekçi ve zararlı içerikler yaratmak için yapay zekanın kullanılması konusunda endişe duyduğunu dile getirdi.

Grok: Birkaç tıklamayla soyunma

Artık her sosyal ağın kendine özgü bir yapay zekası var. Bunu Meta'nın meşhur mavi dairesinden (Facebook, Whatsapp, Instagram'da mevcuttur) fark etmiş olabilirsiniz. X'in Grok adında kendi yapay zekasıyla geride kalması mümkün değil. Uygulamada Grok'tan her türlü isteğinizi iletebiliyorsunuz, hatta gönderilere cevap bile verebiliyorsunuz. Bir süredir Numerama ve France Info'nun da vurguladığı gibi bir tartışma var: Elon Musk'ın yapay zekası, kadınları bilgileri olmadan soymak için yaygın olarak kullanılıyor .

Sosyal ağ X'in (eski adıyla Twitter) kullanıcıları, 2025 yılının mayıs ayının başından bu yana, xAI tarafından geliştirilen yapay zeka (AI) Grok'u kullanarak, internette yayınlanan fotoğraflardan iç çamaşırlı kadınların görüntülerini oluşturmaya başladı. Yapmaları gereken tek şey, bir fotoğrafın bulunduğu gönderinin altına @Grok ismini yazmak ve söz konusu kişinin "kıyafetlerini çıkarmasını" istemek. Yapay zeka daha sonra çoğunlukla iç çamaşırından oluşan düzenlenmiş bir görüntü üretiyor ve bu görüntü doğrudan başlıkta görüntülenebiliyor veya bir indirme bağlantısıyla erişilebiliyor. Grok, katı etik kurallara uyduğunu iddia etse de kullanıcılar bu sınırlamaları aşmayı başarmış ve hedef alınan kişilerin onur ve gizliliklerinin ihlal edilmesine yol açmıştır.

Fransa'da yasadışı bir uygulama

Bu uygulama Fransa'da yasaktır. 21 Mayıs 2024 tarihli yasa, yapay zekâ tarafından üretilen içeriklere, özellikle cinsel içerikli deepfake'lere ilişkin mevzuatı güçlendirdi. Bu tür görüntüleri ilgililerin rızası olmaksızın üretmek veya yaymak üç yıla kadar hapis ve 45.000 avroya kadar para cezasıyla cezalandırılır . Bu tür eylemler bireylerin mahremiyetine ve onuruna yönelik saldırılar olarak değerlendirilmekte olup, mağdurlar bu içeriklerin yazarlarına karşı yasal işlem başlatabilmektedir.

Bu haber bize, yapay zekanın aşırılıklarından kadınları ve çocukları her zamankinden daha fazla korumamız gerektiğini hatırlatıyor. Bunu yapmak için, bu konuları toplumsal tartışmaların merkezine yerleştirmemiz, yasal çerçeveyi güçlendirmemiz ve bu tür yayınları mümkün olduğunca çabuk denetlemek ve yayılmasını sınırlamak için tespit etme araçlarını iyileştirmemiz gerekiyor. Kısacası, önümüzde çok iş var!