A verificação de idade está se espalhando pelos jogos. Será que estamos prontos para a era das falsificações de IA?

Em julho, Siyan, um usuário do Discord baseado no Reino Unido, entrou em sua conta certa manhã e não conseguiu acessar algumas de suas conversas de texto marcadas como NSFW. Um pop-up o informou que o canal agora tinha restrição de idade. O Reino Unido havia promulgado suas abrangentes leis de segurança infantil , que incluem um sistema de requisito de idade para verificar se os usuários são maiores de 18 anos. As atualizações do Discord exigiam que os usuários verificassem sua idade, seja por meio de documento de identidade oficial ou escaneamento facial.

Siyan (que pediu para ser identificado apenas pelo nome de tela por questões de privacidade) se descreve como "extremamente velho o suficiente para precisar falsificar uma identidade". Ele não queria tirar uma foto da identidade. O recurso de escaneamento facial ainda não estava disponível para dispositivos móveis, diz ele, e ele não tinha uma webcam, então decidiu dar à plataforma o rosto de outra pessoa. Primeiro, ele tentou usar um emoji de "um velhote" que ele costuma usar no Discord. ("Isso mexe comigo.") Os escaneamentos faciais, no entanto, geralmente exigem que os usuários enviem várias fotos que os incluam com uma aparência específica ou poses específicas. Siyan precisava de uma imagem aceitável de um homem com a boca aberta.

Dois jogos em sua biblioteca, Stellar Blade e Death Stranding , incluem um modo de foto que permite aos jogadores colocar um personagem em pose e definir suas expressões; Siyan optou por Sam, de Death Stranding , inspirado no ator Norman Reedus, de 56 anos.

Ele postou capturas de tela de seu sucesso no Discord, depois que um amigo as postou no X. A jogada de Siyan rapidamente se tornou viral, inspirando outros a tentar jogos como Death Stranding , God of War e mais.

A verificação de idade agora é a norma no Reino Unido, embora leis semelhantes em todo o mundo devam ter um impacto profundo em como acessamos a web. Empresas como o Google estão implementando sistemas de estimativa de idade baseados em IA para a Pesquisa e o YouTube. Em plataformas de jogos como o Roblox, as verificações de idade estão se tornando um elemento-chave das medidas de segurança. Mas, seja usando IDs ou escaneamento facial, é um sistema imperfeito. Vários usuários do Discord disseram à WIRED que já conseguiram contornar escaneamentos faciais usando personagens de videogame. A IA generativa pode tornar esse problema ainda mais difícil de controlar à medida que a tecnologia se torna mais sofisticada; no mês passado, a WIRED escreveu sobre uma startup trabalhando em IA que pode criar vídeos em tempo real . Os usuários também estão preocupados em fornecer às empresas suas informações pessoais em caso de violações de segurança.

Em teoria, a verificação de idade serve para manter as crianças mais seguras. Em plataformas como o Roblox, onde a moderação falha permitiu que predadores aliciassem ou até mesmo agredissem algumas crianças, confirmar que alguém é menor de idade — ou maior de 18 anos — é uma maneira de determinar quais recursos essa pessoa pode usar. Para sites de conteúdo adulto como o Pornhub , a verificação de idade visa garantir que crianças não tenham acesso à pornografia. Os críticos, no entanto, dizem que os sistemas que estão sendo implementados são falhos, tanto do ponto de vista da privacidade quanto da proteção.

David Maimon, chefe de insights sobre fraudes da SentiLink e professor de criminologia na Universidade Estadual da Geórgia, afirma que os métodos atuais de verificação ainda podem ser enganados. As pessoas usam muitos métodos diferentes para burlar as "verificações de vida" — medidas de segurança usadas para verificar se o usuário é uma pessoa real — seja por meio de IA, videogames ou vídeos de outras pessoas reais. Documentos de identidade podem ser falsificados ou comprados. "O processo de verificação de idade é complicado", diz ele, e os responsáveis por esses sistemas precisam refletir mais sobre eles.

Ash, um jovem de 20 anos do Reino Unido que pediu para seu sobrenome não ser usado, disse à WIRED que conseguiu passar na verificação usando o modo de foto de God of War com o personagem principal Kratos . "Eu não esperava que [a verificação] funcionasse por causa da pele branca e da barba de Kratos, mas funcionou na primeira tentativa", diz ele. Outro usuário do Discord no Reino Unido, que atende por Antsy online, diz que obteve os mesmos resultados com Arma 3 e um mod que permite que você coloque personagens em poses. "Descobri que poderia simplesmente tentar, como todas as pessoas deveriam", disse ele à WIRED. "Os personagens de Arma 3 parecem muito ruins, nada realistas, então pensei que seria um experimento sólido para solidificar ou desafiar minhas opiniões sobre essa tecnologia." Antsy diz que ele e seus amigos consideram esse tipo de tecnologia "um desafio" que tentam contornar. "Sou muito a favor da segurança na internet", diz ele. "Acredito, no entanto, que não deveria ser o trabalho da internet cuidar e proteger seus usuários mais jovens."

Personagens de videogame de vários jogos funcionaram. Em um vídeo do YouTuber beebreadtech , ele conseguiu rapidamente uma classificação indicativa para adultos repetindo os passos de Siyan em Death Stranding . Outros usuários do Discord com quem a WIRED conversou disseram que conseguiram fazer isso com jogos como Days Gone , Baldur's Gate 3, Cyberpunk 2077, The Sims 4 , Cyberpunk 2077, Days Gone , Warhammer 40.000: Space Marine 2 , Star Wars: Knights of the Old Republic e Gray Zone Warfare . Alguns dizem que até usaram com sucesso o Garry's Mod , um jogo com física pastelão e modelos de personagens que lembram algo de um sonho febril.

O Discord ainda não respondeu ao pedido de comentário da WIRED.

Maimon afirma que existem muitas brechas possíveis na verificação de idade que as pessoas podem ignorar. "A indústria está tentando encontrar soluções para o problema dos deepfakes de IA e das IAs ao vivo", afirma. Isso pode significar depender de uma combinação de fatores que analisam as informações associadas de uma pessoa, como números de telefone, endereços e outros. "É preciso confiar mais em evidências históricas da existência do indivíduo", diz Maimon, "e dar menos ênfase a pontos de verificação como carteiras de motorista, fotos, testes de presença e assim por diante".

Maimon afirma que criminosos são especialistas em burlar esse tipo de tecnologia. "Os criminosos estão sempre de 7 a 12 meses à nossa frente em termos de capacidade de encontrar vulnerabilidades e burlar algumas das tecnologias disponíveis", afirma. Mesmo sem IA generativa, as pessoas ainda podem vender vídeos de seus rostos para passar na verificação de idade.

Nem mesmo documentos de identidade com foto são infalíveis. "A qualidade de uma carteira de motorista [falsa] é simplesmente impecável", diz Maimon. "Todas as marcas d'água, as luzes UV, toda a segurança, até mesmo o material plástico correto no qual a carteira de motorista está sendo impressa — até mesmo isso os criminosos agora têm acesso."

No caso de documentos de identidade legítimos, há um problema com menores e quem os possui. A WIRED perguntou anteriormente ao diretor de segurança da Roblox, Matt Kaufman, sobre jovens de 13 anos — a idade mínima para que a Roblox desbloqueie alguns de seus recursos — que poderiam não ter documentos de identidade emitidos pelo governo. "Isso é um problema", disse Kaufman à WIRED na época, acrescentando que, na América do Norte e nos Estados Unidos, é incomum que pessoas tão jovens os tenham.

“Tenho dúvidas se [a identificação com foto] é uma forma útil de verificar a idade das pessoas”, diz Maimon, “simplesmente porque temos muitas evidências sugerindo que isso não funciona”.

Também há hesitação por parte dos usuários em entregar seus documentos de identidade. "Não confio nos serviços de terceiros que estão sendo usados com meus dados, especialmente considerando o quão prejudiciais os vazamentos de dados podem ser", diz Ash. "A maioria dos aplicativos de verificação afirma que não armazenam seus dados por mais de sete dias e, embora isso possa ser verdade, não tenho como ter certeza de que estão dizendo a verdade."

Há um risco em entregar informações confidenciais a empresas que solicitam verificação de foto ou identidade. Em julho, o Tea — um aplicativo onde mulheres podem compartilhar suas experiências negativas com homens — sofreu uma violação de dados massiva que expôs milhares de fotos de mulheres usadas para verificação; um segundo problema de segurança, de acordo com a 404 Media, permitiu que hackers acessassem informações confidenciais como números de telefone, perfis em redes sociais e nomes reais por meio de mensagens de usuários, o que foi disseminado em fóruns como o 4chan para denunciar e assediar mulheres.

Pessoas com quem a WIRED conversou e que usaram videogames para burlar a verificação são contra a verificação de idade. "Exigir que as pessoas forneçam informações faciais para acessar todos os recursos de sites e aplicativos como Discord e Bluesky é um exagero enorme em relação ao que os governos deveriam ter o direito de exigir digitalmente", diz Ash.

Além disso, ele duvida que tais sistemas não sejam explorados, seja por meio de videogames ou de algum outro método. "Não acho que escaneamentos faciais sejam uma forma útil de verificar a idade, já que as pessoas podem facilmente aparentar menos de 18 anos e serem incorretamente identificadas como menores de 18 anos", diz ele.

Antsy, o usuário do Discord que passou na verificação com o Arma 3, não está convencido de que sites ou plataformas devam ser responsáveis pela verificação de idades. "Tudo o que vocês estão fazendo ao implementar essas leis é empurrar os jovens para cantos da internet que o governo não pode policiar", diz ele. "Se alguém acredita que isso está protegendo as crianças mais do que um pai ativo já faria, eu me recuso a acreditar que essa pessoa seja bem versada nos cantos da internet fora da página inicial do Google ou da vida de seus filhos."