DeepSeek ve halüsinasyonlar: AGCM soruşturmayı başlattı

İtalyan Rekabet ve Piyasa Otoritesi (AGCM), DeepSeek'e Tüketici Kanunu'nun olası ihlali nedeniyle soruşturma başlattı. Çinli şirket, chatbot'un yanıtlarının yanlış olabileceği (halüsinasyonlar) konusunda kullanıcıları açıkça bilgilendirmiyor. Ocak ayının sonunda , Gizlilik Otoritesi İtalyan kullanıcıların verilerinin işlenmesini engellemişti.

Haksız ticari uygulama

İşlemlerin başlangıcı 16 Haziran tarihli haftalık bülten aracılığıyla duyuruldu, çünkü AGCM DeepSeek'ten 2 Nisan'da gönderilen bildirime dair herhangi bir onay almadı. Tüketici Kanunu'na göre haksız ticari uygulama, sözde halüsinasyonlar veya yanlış, yanıltıcı veya uydurma cevaplarla ilgilidir.

Chatbot ekranı olası halüsinasyonlar hakkında net bir uyarı göstermiyor, sadece İngilizce genel bir uyarı gösteriyor ( AI tarafından oluşturulmuş, sadece referans amaçlı ). Halüsinasyon riski hakkındaki bilgi ana sayfada, kayıt sayfasında ve giriş sayfasında da mevcut değil. Yanlış cevaplar üretme olasılığı, sadece ana sayfanın alt kısmında bulunan bir bağlantı aracılığıyla ulaşılabilen hizmetin kullanım şartlarında (madde 4.4) doğrulanmıştır.

Yetkililere göre, DeepSeek Tüketici Kanunu'nun 20, 21 ve 22. maddelerini ihlal etmiş olurdu, çünkü halüsinasyonlar hakkında bilgi eksikliği tüketicilerin rakipler tarafından sunulanlar yerine chatbot'u bilinçli bir şekilde seçmelerine izin vermez. Bu nedenle bu seçim sonuçların güvenilirliğine ve doğruluğuna tamamen güvenilebileceği yanlış inancıyla yapılmış olurdu.

Süreç 270 gün sürecek. DeepSeek, 30 gün içinde İtalya'da sunulan hizmetlerin listesi, uygulamaların Apple ve Google mağazalarında ilk kullanılabilirlik tarihi, diğer erişim yöntemleri ve 1 Mart 2025'ten bu yana hizmeti kullanan İtalyan kullanıcı sayısı dahil olmak üzere çeşitli bilgileri sağlamalıdır.