YouTube, yetişkin gibi davranan küçükleri yakalamak için yapay zekayı kullanmaya hazırlanıyor.

YouTube, yetişkin olduğunu iddia eden bir kullanıcının aslında çocuk olup olmadığını tespit etmek için yapay zeka tabanlı yeni bir sistem sunuyor. Bu önlem, özellikle büyük dijital platformların uygunsuz içerikle ilişkili riskleri ele almamakla suçlandığı Amerika Birleşik Devletleri'nde, küçükleri çevrimiçi ortamda korumaya yönelik artan siyasi ve toplumsal baskıya yanıt niteliğinde.

Teknoloji, izlenen video türünden kullanım sıklığına ve hesabın süresine kadar çeşitli dijital sinyalleri analiz ederek çalışıyor. Dolayısıyla, girilen kişisel verilerin statik bir kontrolü değil, davranışlardan öğrenen bir sistem. YouTube Youth Ürün Yönetimi Direktörü James Beser, amacın "kayıtlı doğum tarihinden bağımsız olarak bir kullanıcının yaşını tahmin etmek" olduğunu ve böylece uygun içerik ve korumaların uyarlanabileceğini açıkladı.

Algoritma olası bir tutarsızlık tespit ettiğinde, kullanıcı bir uyarı alır ve bir belge, özçekim yükleyerek veya kredi kartı kullanarak yaşını kanıtlayabilir. Bu doğrulama yöntemi, birbiriyle çelişen iki ihtiyacı dengelemeyi amaçlar: bir yandan küçüklerin korunması, diğer yandan yetişkinler için gizlilik ve erişim kolaylığı.

Konu uluslararası alanda da aciliyet kazandı. Avustralya hükümeti, 10 Aralık'ta yürürlüğe girecek bir yasayla 16 yaşın altındaki çocuklar için YouTube'u yasakladı. Dünyanın en sert önlemlerinden biri olan bu sert önlem, çocukları potansiyel olarak zararlı içeriklere yönlendiren "yırtıcı algoritmalar" riskiyle haklı çıkarılıyor. Canberra yalnız değil: Avustralya modelinin izlenmeye değer bir emsal olabileceği düşüncesiyle birçok ülke aynı yolu izlemeyi düşünüyor.

Asıl mesele aynı: Küçüklerin çevrimiçi güvenliğini sağlamak için yapay zekaya ne ölçüde güvenmeliyiz? YouTube, TikTok ve Instagram gibi platformlar iki ateş arasında kalmış durumda. Bir tarafta hükümetler ve halk daha fazla koruma talep ediyor. Diğer tarafta ise, gerçekten yetişkin olan milyonlarca kullanıcı için kusursuz bir deneyim sağlama ihtiyacı var. Denge hassas, ancak plan artık bozulmuş durumda. Büyük Teknoloji şirketlerinin hata yapması yasak.