Deepfake, quando la finzione diventa tecnologia
Nella sua acclamata opera letteraria, Il ritratto di Dorian Gray , Oscar Wilde sottolinea l'idea che un volto possa mentire e che la bellezza possa nascondere la corruzione più profonda. Dorian mantenne il suo aspetto mentre la sua anima si decomponeva su una tela nascosta. Oggi, questa finzione è diventata tecnologia: i volti possono essere maschere e l'identità un'illusione manipolabile.
La rivoluzione digitale che prometteva di proteggere la nostra identità attraverso la biometria sta attraversando una grave crisi. Ricerche recenti rivelano che i deepfake sono in grado di aggirare i sofisticati sistemi di verifica dell'identità (liveness detection) utilizzati da banche, fintech e app di pagamento. La certezza che un tempo ci dava il riconoscimento facciale – quell'illusione che la nostra immagine personale sarebbe stata una chiave infallibile – sta iniziando a sgretolarsi di fronte a un nemico capace di usare i nostri stessi volti come travestimento.
Ricordiamo che i dati biometrici si riferiscono a qualsiasi informazione collegata a caratteristiche fisiche o comportamentali che consenta di identificare una persona in modo univoco, dall'impronta digitale alla voce, all'iride o allo schema di digitazione su un telefono cellulare. Questi dati sono sensibili, riconosciuti come tali dalle più avanzate leggi sulla protezione dei dati personali, come il Regolamento generale sulla protezione dei dati dell'Unione Europea. A differenza di una password, non possono essere modificati o reimpostati. Se una password viene divulgata, è sempre possibile crearne un'altra; se un'impronta digitale o un volto vengono compromessi, il danno è permanente.
Collegati ai dati biometrici, sono stati sviluppati sistemi di " rilevamento della vitalità ", progettati per verificare che la persona davanti alla telecamera sia un essere umano reale e non un'immagine, un video o un'animazione manipolati. Questo in genere comporta sbattere le palpebre, girare la testa o sorridere, oppure analizzando segnali più sottili, come la consistenza della pelle o la luce negli occhi.
Un interessante rapporto sulle frodi di Veriff 2025 (https://www.veriff.com/es) mostra che i sistemi di rilevamento in tempo reale , precedentemente considerati robusti, hanno iniziato a essere violati da attacchi basati su deepfake , che possono sostanzialmente bypassare questi sistemi (oltre l'80% del campione preso in esame) nei test di penetrazione. In altre parole, quei muri di sicurezza che promettono di rilevare gli impostori stanno crollando di fronte alla sofisticazione dei deepfake. I criminali informatici sono riusciti a eludere i controlli biometrici in tempo reale utilizzando volti generati artificialmente, il che rappresenta un nuovo livello di sofisticazione nelle frodi digitali e sottolinea l'urgente necessità di rafforzare l'autenticazione con tecnologie più avanzate.
Nella biometria, accade qualcosa di simile a quanto già avvertivano i Romani nel diritto: non basta rispettare un protocollo se non si garantisce ciò che conta davvero. Se un sistema riproduce solo una procedura superficiale, il modulo diventa vuoto e la protezione dell'identità viene a mancare. L'autenticazione moderna richiede quindi controlli multimodali: combinare la biometria facciale con l'analisi vocale, modelli comportamentali, microespressioni e, soprattutto, test attivi e casuali che rendano difficile qualsiasi riproduzione automatizzata. L'idea è di alzare il livello di sicurezza: una singola serratura isolata può essere aperta con una copia ben fatta, ma un insieme di difese coordinate è molto più difficile da violare.
Il risultato è inquietante: le frodi d'identità basate sui deepfake sono cresciute in modo esponenziale, anche a livello bancario, con perdite milionarie. In America Latina, il rischio è tangibile a causa della velocità con cui la popolazione ha adottato il digital banking, i portafogli virtuali e i sistemi di pagamento istantaneo. La pressione per ridurre il processo di apertura del conto a pochi secondi ha portato molti istituti a implementare sistemi di verifica dell'identità come meri controlli di conformità normativa. Il paradosso è che il tentativo di proteggere l'identità digitale ha finito per generare un falso senso di sicurezza, uno scudo di carta contro una tempesta d'acciaio.
Il contesto di questa crisi rivela una contraddizione dei nostri tempi : l'ossessione per l'immediatezza. Vogliamo aprire un conto corrente in tre minuti, trasferire denaro con un clic e richiedere un prestito senza scartoffie, e in questa corsa alla comodità sacrifichiamo controlli rigorosi. Come direbbe Seneca, "Nulla è più utile di ciò che si usa con prudenza". Ma la prudenza è diventata scomoda in un mercato in cui ogni secondo di attesa significa che i clienti passano alla concorrenza. Così, la biometria è diventata una scorciatoia per l'efficienza piuttosto che una vera garanzia di autenticità.
L'asimmetria è evidente: mentre l'intelligenza artificiale ha democratizzato gli strumenti per la creazione di deepfake , accessibili a qualsiasi utente dotato di un telefono cellulare e di una connessione Internet, le difese più avanzate rimangono costose e limitate. Questo squilibrio crea un ecosistema in cui gli aggressori hanno il sopravvento e i difensori tentano a malapena di mitigare i danni. Una versione moderna dell'antico principio romano ubi commoda, ibi incommoda ("dove ci sono i vantaggi, ci sono anche le perdite"): lo stesso progresso che facilita l'inclusione finanziaria apre le porte a un nuovo tipo di frode di massa.
Qualcuno dirà che stiamo esagerando, che la contraffazione è sempre esistita: di banconote , documenti, firme. Ed è vero. La differenza sta nella scala. Ciò che un tempo richiedeva abilità manuale e complicità interna ora può essere fatto in modo seriale e da remoto. Un criminale non ha più bisogno di infiltrarsi in una filiale o corrompere un dipendente: tutto ciò che deve fare è generare un video convincente e sottoporlo a verifica nei sistemi di convalida. La clonazione dell'identità è diventata industriale.
La serie Netflix Black Mirror ci ha insegnato a immaginare futuri distopici in cui la tecnologia diventa una trappola per gli esseri umani stessi. Ciò che allora sembrava finzione ora si presenta come uno specchio fin troppo reale: identità rubate, volti clonati e voci replicate con precisione chirurgica. È una metafora di un mondo in cui l'autenticità diventa indistinguibile dalla falsità e dove la fiducia diventa la risorsa più scarsa.
Viviamo, in breve, in un nuovo " stato di natura digitale " , in cui chiunque può replicare un volto e una voce con una qualità iperrealistica. Ciò richiede un compromesso responsabile tra innovazione, sicurezza e diritto. Altrimenti, corriamo il rischio che l'identità digitale, un tempo promessa di fiducia, finisca per trasformarsi nella più pericolosa delle ironie: il tuo volto potrebbe non essere il tuo volto, e nemmeno la tua identità potrebbe essere la tua.
Avvocato e consulente in diritto digitale, privacy e dati personali; direttore del programma "Diritto all'oblio e pulizia digitale" presso l'Università di Buenos Aires (UBA); professore presso l'Università di Buenos Aires e le Facoltà di Giurisprudenza Australi
lanacion
