CBS News ontdekt dat metaplatforms honderden deepfake-advertenties met 'nudify' lieten zien

Meta heeft een aantal advertenties verwijderd die reclame maakten voor 'nudify'-apps. Dit zijn AI- tools die worden gebruikt om seksueel expliciete deepfakes te maken met afbeeldingen van echte mensen. Uit een onderzoek van CBS News bleek dat er honderden van dergelijke advertenties op de platforms van Meta stonden.

"We hanteren strenge regels tegen intiem beeldmateriaal dat niet met wederzijdse instemming is gemaakt. We hebben deze advertenties verwijderd, de pagina's die verantwoordelijk waren voor de advertenties verwijderd en de URL's die aan deze apps zijn gekoppeld permanent geblokkeerd", aldus een woordvoerder van Meta in een e-mailverklaring aan CBS News.

CBS News ontdekte tientallen van die advertenties op Meta's Instagram-platform, in de "Stories"-functie, die AI-tools promootten die in veel gevallen de mogelijkheid aankondigden om "een foto te uploaden" en "iemand naakt te zien". Andere advertenties in Instagram's Stories promootten de mogelijkheid om video's van echte mensen te uploaden en te manipuleren. Eén advertentie vermeldde zelfs "hoe is dit filter überhaupt toegestaan?" als tekst onder een voorbeeld van een naaktdeepfake .

Eén advertentie promootte zijn AI-product met behulp van sterk geseksualiseerde deepfake-afbeeldingen van acteurs Scarlett Johansson en Anne Hathaway, gekleed in ondergoed. De URL-links van sommige advertenties verwijzen door naar websites die de mogelijkheid promoten om afbeeldingen van echte mensen te animeren en hen seksuele handelingen te laten verrichten. Sommige apps rekenden gebruikers tussen de $ 20 en $ 80 voor toegang tot deze "exclusieve" en "geavanceerde" functies. In andere gevallen verwees de URL van een advertentie gebruikers door naar de App Store van Apple, waar "nudify"-apps konden worden gedownload.

Uit een analyse van de advertenties in de advertentiebibliotheek van Meta bleek dat er minimaal honderden van deze advertenties beschikbaar waren op de socialemediaplatforms van het bedrijf, waaronder Facebook, Instagram, Threads, de Facebook Messenger-applicatie en Meta Audience Network, een platform waarmee Meta-adverteerders gebruikers kunnen bereiken op mobiele apps en websites die samenwerken met het bedrijf.

Volgens de eigen advertentiebibliotheekgegevens van Meta waren veel van deze advertenties specifiek gericht op mannen tussen de 18 en 65 jaar oud en waren ze actief in de Verenigde Staten, de Europese Unie en het Verenigd Koninkrijk.

Een woordvoerder van Meta vertelde CBS News dat de verspreiding van dit soort door AI gegenereerde content een voortdurend probleem is en dat het bedrijf voor steeds complexere uitdagingen staat om dit te bestrijden.

"De mensen achter deze uitbuitende apps ontwikkelen voortdurend hun tactieken om detectie te omzeilen. Daarom werken we er voortdurend aan om onze handhaving te verbeteren", aldus een woordvoerder van Meta.

CBS News ontdekte dat advertenties voor 'nudify'-deepfaketools nog steeds beschikbaar waren op het Instagram-platform van het bedrijf, zelfs nadat Meta de aanvankelijk gemarkeerde advertenties had verwijderd.

Deepfakes zijn gemanipuleerde afbeeldingen, audio-opnamen of video's van echte mensen die met behulp van kunstmatige intelligentie zijn aangepast om de indruk te wekken dat iemand iets zegt of doet wat die persoon in werkelijkheid niet heeft gezegd of gedaan.

Vorige maand ondertekende president Trump de door beide partijen gesteunde " Take It Down Act ", die onder andere vereist dat websites en socialemediabedrijven deepfake-inhoud binnen 48 uur na kennisgeving door een slachtoffer verwijderen.

Hoewel de wet het illegaal maakt om 'opzettelijk' intieme afbeeldingen te publiceren of te dreigen te publiceren zonder toestemming van de persoon, inclusief door AI gemaakte deepfakes, richt de wet zich niet op de tools die worden gebruikt om dergelijke door AI gegenereerde content te creëren.

Deze tools schenden de regels voor platformveiligheid en moderatie die Apple en Meta op hun respectievelijke platforms hebben geïmplementeerd.

Het advertentiebeleid van Meta luidt als volgt: "Advertenties mogen geen naaktheid of seksuele activiteit voor volwassenen bevatten. Dit omvat naaktheid, afbeeldingen van mensen in expliciete of seksueel suggestieve posities, of activiteiten die seksueel suggestief zijn."

Onder Meta's beleid tegen "pesten en intimidatie" verbiedt het bedrijf ook "denigrerende, geseksualiseerde Photoshop of tekeningen" op zijn platforms. Het bedrijf zegt dat de regels bedoeld zijn om te voorkomen dat gebruikers intieme afbeeldingen delen of dreigen te delen die niet met wederzijdse toestemming zijn gemaakt.

In de richtlijnen van Apple voor de app store staat expliciet dat 'inhoud die aanstootgevend, ongevoelig, verontrustend, bedoeld om afkeer op te wekken, van uitzonderlijk slechte smaak of gewoonweg griezelig is' verboden is.

Alexios Mantzarlis, directeur van het Security, Trust, and Safety Initiative aan het technisch onderzoekscentrum van Cornell University, bestudeert al meer dan een jaar de toename van AI deepfake-netwerkmarketing op sociale platforms. Hij vertelde CBS News in een telefonisch interview op dinsdag dat hij in die periode duizenden van deze advertenties meer had gezien op Meta-platforms, evenals op platforms zoals X en Telegram.

Hoewel Telegram en X volgens hem te maken hebben met een structurele "wetteloosheid" die dit soort content toelaat, gelooft hij dat de leiding van Meta niet de wil heeft om het probleem aan te pakken, ondanks dat er wel contentmoderators zijn aangesteld.

"Ik denk wel dat de vertrouwens- en veiligheidsteams van deze bedrijven zich er druk om maken. Eerlijk gezegd denk ik niet dat ze zich er in het geval van Meta helemaal druk om maken," zei hij. "Ze hebben duidelijk te weinig middelen voor de teams die dit soort dingen moeten bestrijden, want hoe geavanceerd deze [deepfake]netwerken ook zijn... ze hebben geen Meta-geld om eraan te besteden."

Mantzarlis zei ook dat zijn onderzoek uitwees dat "nudify" deepfake-generators beschikbaar zijn om te downloaden in zowel de App Store van Apple als de Play Store van Google. Hij uitte zijn frustratie over het onvermogen van deze grote platforms om dergelijke content af te dwingen.

"Het probleem met apps is dat ze een dubbel doel hebben: ze presenteren zich in de App Store als een leuke manier om te ruilen, maar vervolgens promoten ze het op Meta met als voornaamste doel nudificatie. Dus wanneer deze apps ter beoordeling worden aangeboden in de Apple Store of Google Store, hebben ze niet per se de middelen om ze te verbieden," zei hij.

"Er moet sprake zijn van samenwerking tussen verschillende sectoren. Als de app of website zichzelf op de markt brengt als hulpmiddel voor naaktfotografie op welke plek dan ook op internet, dan kan iedereen denken: 'Oké, het maakt me niet uit hoe je jezelf presenteert op mijn platform, je bent weg'", voegt Mantzarlis toe.

CBS News heeft zowel Apple als Google om commentaar gevraagd over de manier waarop zij hun respectievelijke platforms modereren. Beide bedrijven hadden op het moment van schrijven nog niet gereageerd.

De promotie van dergelijke apps door grote techbedrijven roept serieuze vragen op over zowel de toestemming van gebruikers als de online veiligheid van minderjarigen. Een analyse door CBS News van een "nudify"-website die op Instagram werd gepromoot, toonde aan dat de site geen enkele vorm van leeftijdsverificatie vereiste voordat een gebruiker een foto uploadde om een ​​deepfake-afbeelding te genereren.

Dergelijke problemen komen veel voor. In december berichtte CBS News' 60 Minutes over het ontbreken van leeftijdsverificatie op een van de populairste websites, die kunstmatige intelligentie gebruikt om neppe naaktfoto's van echte mensen te genereren.

Hoewel bezoekers te horen kregen dat ze 18 jaar of ouder moesten zijn om de site te gebruiken en dat "het verwerken van minderjarigen onmogelijk is", kon 60 Minutes meteen foto's uploaden zodra de gebruiker op "Accepteren" klikte bij de leeftijdswaarschuwing. Een andere leeftijdsverificatie was niet nodig.

Gegevens tonen ook aan dat een hoog percentage minderjarige tieners interactie heeft gehad met deepfake-content. Een onderzoek uit maart 2025, uitgevoerd door de non-profitorganisatie Thorn voor kinderbescherming, toonde aan dat 41% van de tieners aangaf de term "deepfake naaktfoto's" te hebben gehoord, terwijl 10% aangaf persoonlijk iemand te kennen van wie deepfake naaktfoto's waren gemaakt.