TikTok oskarżony o rozpowszechnianie rasistowskich filmów tworzonych przy użyciu sztucznej inteligencji Google

Rasistowskie filmy generowane przez AI stają się problemem na TikToku . Wynika to z badania przeprowadzonego przez Media Matters, amerykańską organizację nadzorującą media, które sugeruje, że wiele z nich mogło zostać stworzonych przy użyciu nowego narzędzia Google do generowania treści, Veo 3 .

Wśród filmów znalezionych przez organizację na szczególną uwagę zasługują treści kojarzące osoby czarnoskóre z małpami lub przestępcami; jeden z nich został wyświetlony ponad 14,2 miliona razy w chińskiej aplikacji.

„Użytkownicy publikują również wprowadzające w błąd filmy generowane przez sztuczną inteligencję na temat imigrantów i protestujących, w tym filmy przedstawiające protestujących potrącanych przez samochody” – zauważa Media Matters. Stowarzyszenie podkreśla również „szczególnie dystopijne” treści przedstawiające „obozy koncentracyjne i ataki Ku Klux Klanu na czarnoskórych Amerykanów”.

Tego typu treści są zabronione przez zasady TikToka. Portal społecznościowy zabrania przesyłania filmów, które odczłowieczają grupy rasowe i etniczne , a także tych, które „zagrażają lub wyrażają chęć wyrządzenia fizycznej krzywdy osobie lub grupie”. Niezależnie od tego, nie byłby to pierwszy raz, gdy witryna miała problemy z usuwaniem zabronionych treści. Firma niedawno zwolniła część swojego międzynarodowego zespołu moderatorów, aby delegować część pracy sztucznej inteligencji.

Rzeczywiście, jak wskazuje Media Matters, filmy wydają się być w większości tworzone przynajmniej przy użyciu Veo 3. Rezultaty są bardzo realistyczne, a filmy mają nawet dźwięk, co jest cechą niedostępną w większości narzędzi opartych na sztucznej inteligencji. Niektóre z nich pojawiają się również ze znakiem wodnym Google w jednym rogu.

Podobnie jak w przypadku TikToka, amerykańska wyszukiwarka zabrania używania swojej technologii do generowania „szkodliwych wyników”. Zazwyczaj w takich przypadkach Veo 3 blokuje żądanie całkowicie; chociaż nie byłby to pierwszy raz, gdy użytkownikowi udało się „oszukać” maszynę, aby wyprodukowała treść, której nie powinna.

ABC skontaktowało się z Google i TikTokiem w celu uzyskania komentarza na temat dochodzenia Media Matters. Żadna z firm technologicznych nie odpowiedziała jeszcze na prośbę.