Realtime deepfake, de nieuwe grens van AI-fraude

Verander gezicht, huidskleur, stem en meer tijdens een live videogesprek, met minimale inspanning en dankzij kunstmatige intelligentie. Het is het fenomeen van Realtime deepfake, een oplichterij die ook systemen voor de gek houdt van verificatie en kan iedereen treffen, niet alleen managers van grote bedrijven of publieke figuren zoals Donald Trump en Taylor Swift. "Met de morphing-technologie kun je je gezicht en stem veranderen, ze zijn geavanceerde social engineering-operaties die veel effectiever zijn van de oplichterij die met een bericht komt waar we meer op zitten "Maak je klaar", legt Marco Ramilli, die al een paar maanden aan het werk is, uit aan ANSA IdentifAI opgericht. De Italiaanse startup dankzij een technologie gedefinieerd als 'degeneratief' herkent namaakproducten van generatieve kunstmatige intelligentie. In slechts een paar jaar tijd is het deepfake-fenomeen in het algemeen gegroeid exponentieel. Volgens gecombineerde gegevens van Resemble.AI en AI Incidentendatabase van 2017 tot 2022 waren er 22 incidenten register. In 2023 is dit aantal bijna verdubbeld tot 42, In 2024 steeg het aantal ongevallen met 257% tot 150. En 179 hebben zich al voorgedaan in het eerste kwartaal van 2025 ongevallen, wat het totaal voor heel 2024 met 19% overtreft. "Op het gebied van fraude is dit jaar kunstmatige intelligentie vertegenwoordigt 5%, terwijl het vorig jaar op 0,3% - voegt Ramilli toe - Wij denken dat het over vier jaar zal stijgen tot 60-70% van de fraude. Wij worden aan veel prikkels blootgesteld multimedia, moet je voorzichtig zijn en jezelf uitrusten met hulpmiddelen die Ze verwerken beelden en video's om te proberen te begrijpen, "Anders verliezen we het vertrouwen in digitaal."