AI-video's van zwarte vrouwen afgebeeld als 'Bigfoot' gaan viraal

Een door AI gegenereerde "bigfoot baddie", met acrylnagels en een roze pruik, spreekt haar denkbeeldige publiek rechtstreeks toe via een iPhone. "Misschien moeten we wel vluchten", zegt ze. "Ik word gezocht vanwege een valse melding van mijn baby-papa." Deze AI-video, gegenereerd door Google's Veo 3, is meer dan een miljoen keer bekeken op Instagram . Het is slechts één van de vele virale berichten op Instagram en TikTok die WIRED heeft bekeken en die zwarte vrouwen afschilderen als primaten en racistische clichés in stand houden met behulp van AI-videotools .

Google's Veo 3 was een hit bij het online publiek toen het in mei werd gelanceerd op de ontwikkelaarsconferentie van het bedrijf. Surrealistische generaties van Bijbelse figuren en cryptiden, zoals Bigfoot, vlogden in influencerstijl snel over sociale media. Door AI gegenereerde Bigfoot-vlogs werden door Google zelfs gebruikt als verkoopargument in advertenties die de nieuwe functie promootten.

Met "Bigfoot Baddies" gebruiken online makers een vrij onschuldige trend op sociale media om zwarte vrouwen te dehumaniseren. "Er is een historisch precedent waarom dit aanstootgevend is. In de begindagen van de slavernij werden zwarte mensen overdreven afgebeeld in illustraties om oerkenmerken te benadrukken", zegt Nicol Turner Lee , directeur van het Center for Technology Innovation van de Brookings Institution.

"Het is zowel walgelijk als verontrustend dat deze raciale symbolen en beelden zo gemakkelijk ontworpen en verspreid kunnen worden op online platforms", aldus Turner Lee.

Een van de populairste Instagram-accounts die deze gegenereerde clips postte, heeft vijf video's met meer dan een miljoen views, minder dan een maand na de eerste post van het account. De AI-video's tonen de dieren-vrouw-hybriden die op karikaturale wijze Afrikaans-Amerikaans Engels spreken, waarbij de personages vaak een kap dragen en dreigen met mensen te vechten. In één clip suggereert de AI-generatie, met een country-accent, dat ze een fles Hennessy-likeur tevoorschijn haalde die in haar geslachtsdeel zat.

Veo 3 kan alles wat in dit soort video's te zien is, van de omgeving tot de gesproken audio tot de personages zelf, creëren met één enkele prompt. De bio van het populaire Instagram-account bevat een link naar een online cursus van $ 15 waar je kunt leren hoe je vergelijkbare video's maakt. In video's met titels als "Veo 3 doet het zware werk" gebruiken drie docenten voice-over om leerlingen door het proces te leiden van het aansturen van de AI-videotool voor Bigfoot-clips en het creëren van consistente personages. Het e-mailadres dat vermeld staat als beheerder van de online cursus, stuurde berichten terug toen WIRED probeerde contact op te nemen met de makers.

Een woordvoerder van Meta, eigenaar van Instagram, weigerde commentaar te geven. Google en TikTok bevestigden beiden het verzoek van WIRED om commentaar, maar gaven voorafgaand aan de publicatie geen verklaring af.

Uit onze socialmedia-analyse bleek dat imitatieaccounts op Instagram en TikTok de clips van "Bigfoot Baddie" opnieuw postten of vergelijkbare video's produceerden. Een repost van één video op Instagram is 1 miljoen keer bekeken op een memepagina die zich richt op AI. Een ander Instagram-account heeft een andere video van "Bigfoot Baddie" met bijna 3 miljoen keer bekeken. Het speelt zich niet alleen af ​​op Instagram; een account op TikTok dat zich toelegt op vergelijkbare, door AI gegenereerde content, heeft momenteel meer dan 1 miljoen likes. Deze accounts reageerden niet direct op een verzoek om commentaar.

"Als ik hier doodga, kan ik maar beter met een BBL tot leven worden gewekt", zegt een door AI gegenereerde vrouwelijke bigfoot op een ander account, terwijl ze tegen de camera praat terwijl ze bommen ontwijkt tijdens haar vakantie in Israël. "Een van de problemen met generatieve AI is dat de makers van AI-tools zich niet alle manieren kunnen voorstellen waarop mensen vreselijk tegen elkaar kunnen zijn", zegt Meredith Broussard, professor aan New York University en auteur vanMore Than a Glitch , een boek over vooroordelen in technologie. "Dus kunnen ze niet genoeg vangrails opwerpen. Het is precies hetzelfde probleem dat we op socialemediaplatforms hebben gezien."

Nadat we op een paar video's van vrouwelijke bigfoot hadden geklikt, werd de Instagram Reels-feed voor ons testaccount al snel door het algoritme gevuld met andere racistische video's, waaronder een AI-generatie van een zwarte man op een vissersboot die enthousiast een stuk gefrituurde kip ving en een chimpansee zijn zoon noemde.

Hoewel deze AI-video's verontrustend zijn, zijn ze niet per se verrassend. In 2023, toen een door AI gegenereerde video van Will Smith die spaghetti eet viraal ging op sociale media, analyseerde Jason Parham, senior schrijver bij WIRED, de video als een vorm van minstrelsy. "Dit komende tijdperk van nieuwe minstrelsy zal een nog sluwere kameleontische vorm aannemen, adaptief en direct in zijn sluwheid, van humanistische deepfakes en rake stemmanipulaties tot allerlei vormen van digitaal bedrog", schreef Parham destijds.

Met deze nieuwste golf aan generatieve AI-videotools, aangestuurd door Google's Veo 3, is het nog nooit zo eenvoudig geweest om fotorealistische AI-video's te maken. Het gemak waarmee je talloze video's kunt maken, gecombineerd met de constante verspreiding van AI-rommel op socialemediaplatforms, is een van de redenen waarom deze "bigfoot-boeven" zo populair zijn geworden. Meer socialemediatrends waarbij makers AI gebruiken om minderheidsgroepen aan te vallen, zullen waarschijnlijk aanhouden. "AI heeft het niet alleen makkelijker gemaakt om afbeeldingen te manipuleren", zegt Turner Lee. "Maar het algoritme zelf, en de ecologie ervan, heeft het ook makkelijker gemaakt om deze content te delen of je gebruik ervan te verhogen."