Deepfake in tempo reale, è la nuova frontiera delle frodi IA

Cambiare volto, colore della pelle, voce e altro durante una videochiamata dal vivo, con il minimo sforzo e grazie all'intelligenza artificiale. E' il fenomeno dei deepfake in tempo reale, una truffa che inganna anche i sistemi di verifica e può colpire tutti, non solo manager di grandi aziende o personaggi pubblici come Donald Trump e Taylor Swift. "Con la tecnologia di morphing si cambia volto e voce, sono sofisticate operazioni di ingegneria sociale molto più efficaci della truffa che arriva con un messaggio a cui siamo più preparati", spiega all'ANSA Marco Ramilli che da pochi mesi ha fondato IdentifAI. La startup italiana grazie ad una tecnologia definita 'degenerativa' riconosce prodotti contraffatti dall'intelligenza artificiale generativa. In pochi anni il fenomeno deepfake in generale è cresciuto esponenzialmente. Secondo dati combinati di Resemble.AI e AI Incident Database dal 2017 al 2022 ci sono stati 22 incidenti registrati. Nel 2023 questo numero è quasi raddoppiato a 42, nel 2024 gli incidenti sono aumentati del 257% arrivando a 150. E nel primo trimestre del 2025 si sono già verificati 179 incidenti, superando del 19% il totale di tutto il 2024. "Nel campo delle frodi quest'anno l'Intelligenza artificiale rappresenta il 5%, mentre lo scorso anno si è attestata allo 0.3% - aggiunge Ramilli - Pensiamo che in quattro anni salirà al 60-70% delle frodi. Siamo sottoposti a molti stimoli multimediali, bisogna avere cautela e dotarsi di strumenti che processano le immagini e i video per cercare di capire, altrimenti si perderà la fiducia nel digitale".