La verifica dell'età sta spopolando nel gaming. È pronta per l'era dei falsi basati sull'intelligenza artificiale?

A luglio, Siyan, un utente Discord residente nel Regno Unito, si è connesso una mattina e si è scoperto impossibilitato ad accedere ad alcune delle sue chat di testo contrassegnate come NSFW. Il canale, lo informava un popup, era ora soggetto a restrizioni di età. Il Regno Unito aveva emanato le sue leggi sulla sicurezza dei minori, che includono un sistema di verifica dell'età minima per verificare che gli utenti abbiano più di 18 anni. Gli aggiornamenti di Discord richiedevano agli utenti di verificare la propria età, tramite un documento d'identità o una scansione facciale.

Siyan (che ha chiesto di essere chiamato solo con il suo nickname per motivi di privacy) si descrive come "dolorosamente oltre l'età in cui è necessario falsificare un documento d'identità". Non voleva scattare una foto del suo documento. La funzione di scansione del volto non era ancora disponibile sui dispositivi mobili, dice, e non possedeva una webcam, quindi ha deciso di fornire alla piattaforma il volto di qualcun altro. Per prima cosa, ha provato a usare un'emoji di "un vecchio" che usa spesso su Discord. ("Mi parla"). Le scansioni del volto, tuttavia, spesso richiedono agli utenti di inviare più scatti che li ritraggano in un modo specifico o in pose specifiche. Siyan aveva bisogno di un'immagine accettabile di un uomo con la bocca aperta.

Due giochi nella sua libreria, Stellar Blade e Death Stranding , includono una modalità foto che consente ai giocatori di mettere in posa un personaggio e impostarne l'espressione; Siyan ha optato per Sam di Death Stranding , ispirato all'attore 56enne Norman Reedus.

Ha pubblicato screenshot del suo successo su Discord, dopodiché un amico li ha pubblicati su X. La trovata di Siyan è diventata rapidamente virale, ispirando altri a provarci con giochi come Death Stranding , God of War e altri ancora.

La verifica dell'età è ormai la norma nel Regno Unito, sebbene si preveda che leggi simili in tutto il mondo avranno un profondo impatto sul nostro accesso al web. Aziende come Google stanno implementando sistemi di stima dell'età basati sull'intelligenza artificiale per la Ricerca e YouTube. Su piattaforme di gioco come Roblox, i controlli dell'età stanno diventando un elemento chiave delle misure di sicurezza. Ma sia tramite documenti d'identità che tramite scansione facciale, si tratta di un sistema imperfetto. Diversi utenti di Discord hanno dichiarato a WIRED di essere già riusciti ad aggirare la scansione facciale utilizzando personaggi dei videogiochi. L'intelligenza artificiale generativa potrebbe rendere questo problema ancora più difficile da gestire man mano che la tecnologia diventa più sofisticata; proprio il mese scorso, WIRED ha scritto di una startup che lavora sull'intelligenza artificiale in grado di creare video in tempo reale . Gli utenti sono anche preoccupati di fornire alle aziende le proprie informazioni personali in caso di violazioni della sicurezza.

In teoria, la verifica dell'età serve a garantire una maggiore sicurezza per i bambini. Su piattaforme come Roblox, dove una moderazione fallita ha permesso ai predatori di adescare o addirittura aggredire alcuni bambini, confermare che un utente sia minorenne, o abbia più di 18 anni, è un modo per determinare quali funzionalità può utilizzare. Per siti di contenuti per adulti come Pornhub , la verifica dell'età mira a garantire che i bambini non possano accedere alla pornografia. I critici, tuttavia, affermano che i sistemi implementati sono imperfetti, sia dal punto di vista della privacy che della protezione.

David Maimon, responsabile della sezione frodi di SentiLink e professore di criminologia alla Georgia State University, afferma che gli attuali metodi di verifica possono ancora essere aggirati. Le persone utilizzano molti metodi diversi per aggirare i "controlli di vitalità" – misure di sicurezza utilizzate per verificare che l'utente sia una persona reale – che si tratti di intelligenza artificiale, videogiochi o video di altre persone reali. I documenti d'identità possono essere falsificati o acquistati. "Il processo di verifica dell'età è complicato", afferma, e chi gestisce questi sistemi dovrebbe rifletterci meglio.

Ash, un ventenne residente nel Regno Unito che ha chiesto di non rivelare il suo cognome, racconta a WIRED di essere riuscito a superare la verifica utilizzando la modalità foto di God of War con il personaggio principale Kratos . "Non mi aspettavo che [la verifica] funzionasse a causa della pelle bianca e della barba di Kratos, ma ha funzionato al primo tentativo", afferma. Un altro utente Discord nel Regno Unito, che online si fa chiamare Antsy, afferma di aver ottenuto gli stessi risultati con Arma 3 e una mod che permette di mettere in posa i personaggi. "Ho capito che potevo farlo semplicemente provando, come tutti dovrebbero fare", racconta a WIRED. "I personaggi di Arma 3 hanno un aspetto molto scadente, per niente realistico, quindi ho pensato che sarebbe stato un valido esperimento per consolidare o mettere in discussione le mie opinioni su questa tecnologia". Antsy afferma che lui e i suoi amici considerano questo tipo di tecnologia "una sfida" che cercano di aggirare. "Sono molto favorevole alla sicurezza su Internet", afferma. "Credo, però, che non dovrebbe essere compito di Internet educare e proteggere i suoi utenti più giovani".

Personaggi di videogiochi di diversi titoli hanno funzionato. In un video dello YouTuber beebreadtech , è riuscito a ottenere rapidamente una classificazione per adulti ripetendo i passi di Siyan con Death Stranding . Altri utenti Discord con cui WIRED ha parlato affermano di essere riusciti a farlo con giochi come Days Gone , Baldur's Gate 3, Cyberpunk 2077, The Sims 4 , Cyberpunk 2077, Days Gone , Warhammer 40.000: Space Marine 2 , Star Wars: Knights of the Old Republic e Gray Zone Warfare . Alcuni affermano di aver persino utilizzato con successo Garry's Mod , un gioco con fisica slapstick e modelli dei personaggi che ricordano qualcosa uscito da un incubo febbrile.

Discord non ha ancora risposto alla richiesta di commento di WIRED.

Maimon sostiene che ci siano troppe possibili scappatoie nella verifica dell'età che le persone possono aggirare. "L'industria sta cercando di trovare soluzioni al problema dei deepfake basati sull'intelligenza artificiale e delle IA in tempo reale", afferma. Ciò potrebbe significare affidarsi a una combinazione di fattori che esaminano le informazioni associate a una persona, come numeri di telefono, indirizzi e altro ancora. "Bisogna affidarsi maggiormente alle prove storiche dell'esistenza di un individuo", afferma Maimon, "e dare meno importanza a controlli come patenti di guida, foto, test di vitalità e così via".

Maimon afferma che i malintenzionati sono abili nell'aggirare questo tipo di tecnologie. "I criminali sono sempre dai 7 ai 12 mesi più avanti di noi in termini di capacità di individuare vulnerabilità e aggirare alcune delle tecnologie disponibili", afferma. Anche senza l'intelligenza artificiale generativa, le persone possono comunque vendere video dei propri volti per superare la verifica dell'età.

Nemmeno i documenti d'identità con foto sono a prova di proiettile. "La qualità di una patente di guida [falsa] è semplicemente impeccabile", afferma Maimon. "Tutte le filigrane, le luci UV, tutti i controlli di sicurezza, persino il materiale plastico su cui è stampata la patente... anche quelli sono ora accessibili ai criminali".

Per quanto riguarda i documenti d'identità validi, c'è un problema con i minori e con chi ne possiede uno. WIRED aveva precedentemente chiesto a Matt Kaufman, responsabile della sicurezza di Roblox, informazioni sui tredicenni – l'età minima per sbloccare alcune funzionalità di Roblox – che potrebbero non essere in possesso di documenti d'identità rilasciati dal governo. "Questo è un problema", aveva detto Kaufman a WIRED all'epoca, aggiungendo che in Nord America e negli Stati Uniti è raro che persone così giovani ne abbiano uno.

"Sono titubante nell'affermare che [un documento d'identità con foto] sia un metodo utile per verificare l'età delle persone", afferma Maimon, "semplicemente perché abbiamo così tante prove che suggeriscono che non funziona".

C'è anche una certa esitazione da parte degli utenti a consegnare i propri documenti d'identità. "Non mi fido dei servizi di terze parti che vengono utilizzati per gestire i miei dati, soprattutto considerando quanto possano essere dannose le fughe di dati", afferma Ash. "La maggior parte delle app di verifica afferma di non conservare i dati per più di sette giorni e, anche se potrebbe essere vero, non ho modo di sapere con certezza che stiano dicendo la verità".

C'è un rischio nel fornire informazioni sensibili ad aziende che richiedono la verifica tramite foto o documento d'identità. A luglio, Tea, un'app in cui le donne possono condividere le proprie esperienze negative con gli uomini, ha subito una massiccia violazione dei dati che ha esposto migliaia di foto di donne utilizzate per la verifica; un secondo problema di sicurezza, secondo 404 Media, ha permesso agli hacker di accedere a informazioni sensibili come numeri di telefono, profili social e nomi reali tramite messaggi degli utenti, diffusi su forum come 4chan per denunciare e molestare le donne.

Le persone intervistate da WIRED che hanno utilizzato i videogiochi per eludere la verifica sono contrarie alla verifica dell'età. "Obbligare le persone a fornire informazioni facciali per accedere a tutte le funzionalità di siti web e app come Discord e Bluesky è un enorme abuso di ciò che i governi dovrebbero essere autorizzati a richiedere digitalmente", afferma Ash.

Inoltre, dubita che tali sistemi non vengano sfruttati, sia tramite videogiochi che con altri metodi. "Non credo che le scansioni facciali siano un modo utile per verificare l'età, poiché le persone possono facilmente sembrare minorenni ed essere erroneamente segnalate come minorenni", afferma.

Antsy, l'utente Discord che ha superato la verifica con Arma 3, non è convinto che siti web o piattaforme debbano essere responsabili della verifica dell'età. "Tutto ciò che state facendo con queste leggi è spingere i giovani verso angoli di internet che il governo non può controllare", afferma. "Se qualcuno crede che questo protegga i bambini più di quanto farebbe un genitore attivo, mi rifiuto di credere che sia esperto negli angoli di internet al di fuori della home page di Google o della vita dei propri figli".