TikTok é acusado de viralizar vídeos racistas feitos com IA do Google

Vídeos racistas gerados por IA estão se tornando um problema no TikTok . Isso, de acordo com um estudo da Media Matters, uma organização de monitoramento da mídia dos EUA, que sugere que muitos deles podem ter sido criados usando a nova ferramenta de geração de conteúdo do Google, o Veo 3 .

Entre os vídeos localizados pela organização, destacam-se conteúdos que associam negros a macacos ou criminosos; um deles recebeu mais de 14,2 milhões de visualizações no aplicativo chinês.

"Os usuários também publicam vídeos enganosos gerados por IA sobre imigrantes e manifestantes, incluindo vídeos de manifestantes sendo atropelados", observa a Media Matters. A associação também destaca conteúdo "particularmente distópico" com "campos de concentração e ataques da Ku Klux Klan contra negros americanos".

Esse tipo de conteúdo é proibido pelas políticas do TikTok. A rede social proíbe o envio de vídeos que desumanizem grupos raciais e étnicos , bem como aqueles que "ameaçem ou expressem o desejo de causar danos físicos a uma pessoa ou grupo". De qualquer forma, esta não seria a primeira vez que o site enfrenta problemas para remover conteúdo proibido. A empresa recentemente demitiu parte de sua equipe internacional de moderadores para delegar parte do trabalho à inteligência artificial.

De fato, como aponta a Media Matters, os vídeos parecem ter sido desenvolvidos, em sua maioria, pelo menos com o Veo 3. Os resultados são muito realistas, e os vídeos até têm som, um recurso não disponível na grande maioria das ferramentas com tecnologia de IA. Alguns deles também aparecem com a marca d'água do Google em um canto.

Assim como o TikTok, o mecanismo de busca dos EUA proíbe o uso de sua tecnologia para gerar "resultados prejudiciais". Normalmente, nesses casos, o Veo 3 bloquearia a solicitação imediatamente; embora não seja a primeira vez que um usuário consegue "enganar" a máquina e fazê-la produzir conteúdo que não deveria.

A ABC contatou o Google e o TikTok para comentar a investigação da Media Matters. Nenhuma das empresas de tecnologia respondeu ao pedido até o momento.