Miljoenen mensen gebruiken het dagelijks. Het is een van de belangrijkste websites op internet. Bots vernietigen het stukje bij beetje.

Meld u aan voor de Slatest en ontvang dagelijks de meest inzichtelijke analyses, kritiek en adviezen in uw inbox.

In de jaren sinds de introductie van ChatGPT Silicon Valley transformeerde tot een hypefabriek voor kunstmatige intelligentie, hebben de meest levendige internetgemeenschappen zich het hoofd gebroken over hoe ze zich moeten aanpassen aan de stortvloed aan AI-rommel, vooral nu automatisch gegenereerde output steeds geavanceerder wordt. Geen enkel platform illustreert dit dilemma beter dan Reddit, het geanonimiseerde messageboardnetwerk dat al twintig jaar miljoenen mensen over de hele wereld met elkaar verbindt. Veel gebruikers vragen zich daar steeds vaker af of ze wel echt contact maken met andere mensen .

Dergelijke zorgen zijn niet nieuw, maar ze zijn toegenomen dankzij een schokkende oefening in AI-gestuurde manipulatie. Eind april maakte het moderatieteam van de populaire subreddit r/ChangeMyView bekend dat onderzoekers van de Universiteit van Zürich een " ongeoorloofd experiment " hadden uitgevoerd op communityleden, waarbij "door AI gegenereerde reacties werden ingezet om te bestuderen hoe AI kan worden gebruikt om meningen te veranderen". De moderators schreven dat de academici uit Zürich in maart contact met hen hadden opgenomen om te laten weten dat "we de afgelopen maanden meerdere accounts hebben gebruikt" om door AI gegenereerde reacties te publiceren op r/ChangeMyView, waarbij we onder andere optraden als "slachtoffer van verkrachting" en "een zwarte man die zich verzet tegen Black Lives Matter". "We hebben niet bekendgemaakt dat er een AI werd gebruikt om reacties te schrijven, omdat dit het onderzoek onhaalbaar zou hebben gemaakt", schreef het team uit Zürich . "Wij zijn echter van mening dat, gezien het grote maatschappelijke belang van dit onderwerp, het cruciaal was om een ​​dergelijk onderzoek uit te voeren, zelfs als dat betekende dat we de regels zouden overtreden."

De toezichthouders van r/ChangeMyView waren het daar niet mee eens en reageerden door een ethische klacht in te dienen bij de universiteit. Ze eisten dat het onderzoek niet zou worden gepubliceerd en namen contact op met hogere echelons van het juridische team van Reddit. De anonieme onderzoekers, die waren uitgenodigd om vragen van de subreddit te beantwoorden onder de gebruikersnaam LLMResearchTeam , hielden vol dat "wij geloven dat de potentiële voordelen van dit onderzoek aanzienlijk opwegen tegen de risico's ervan." De reeds verontwaardigde Redditers waren hier niet blij mee. (Een representatieve reactie : "Het destabiliseert mogelijk een extreem goed gemodereerde en effectieve community. Dat is echt schadelijk.") Ook de leidinggevenden van Reddit waren niet blij: Chief Legal Officer Ben Lee zelf plaatste : "we zijn bezig contact op te nemen met de Universiteit van Zürich en dit specifieke onderzoeksteam met formele juridische eisen", en merkte verder op dat de beheerders van het bedrijf alle accounts die voor het experiment werden gebruikt, hadden geblokkeerd. De school liet vervolgens aan 404 Media weten het onderzoek niet te zullen publiceren. De onderzoekers boden begin mei hun excuses aan aan r/ChangeMyView. Ze zeiden dat ze "het ongemak betreurden" en boden aan om "samen te werken" met de subreddit om beschermende maatregelen te treffen tegen andere schendingen van het vertrouwen van de gemeenschap.

Moderators merkten op dat ze het aanbod tot samenwerking van de onderzoekers hadden afgewezen en merkten op: "Deze gebeurtenis heeft CMV op manieren negatief beïnvloed die we nog steeds proberen te ontrafelen." Een gebruiker die bijna vijf jaar actief commentator is op r/ChangeMyView schreef dat de gevolgen van het experiment "mijn interesse in posten een beetje hebben weggevaagd. Ik denk dat ik hier veel heb geleerd, maar er zijn te veel AI-bots om Reddit nog leuk te maken. Ik ben er bijna paranoïde over geworden." Een andere gebruiker was het ermee eens dat "zoveel populaire subs vol staan ​​met AI-berichten en botreacties." Links naar nieuwsberichten over de studie in Zürich, gedeeld in andere subreddits, verwezen consequent naar de " theorie van het dode internet ", de al lang bestaande bewering dat het grootste deel van de cyberspace alleen wordt bevolkt door bots die met andere bots interacteren. In een Reddit-bericht vertelden de moderators van de populaire subreddit r/PublicFreakout me dat het nieuws "onze vermoedens bevestigde dat deze botfarms actief en succesvol zijn op Reddit." Een andere gebruiker schreef mij, op voorwaarde van anonimiteit, dat hij nu elke interactie met “verhoogde argwaan” bekijkt.

Brandon Chin-Shue, moderator van ar/ChangeMyView en al 15 jaar Redditor, vertelde me dat er al eerder onderzoek is gedaan binnen de subreddit, maar alleen met de uitdrukkelijke voorafgaande goedkeuring van de moderators en met meldingen aan hun gebruikers. "Om de paar maanden krijgen we meestal een docent die wil dat zijn leerlingen ChangeMyView bezoeken zodat ze kunnen leren hoe discussie en debat werken, of een onderzoeksassistent die vraagt ​​of ze informatie kunnen scrapen", zei Chin-Shue. "De afgelopen jaren heeft ChangeMyView min of meer open gestaan ​​voor dit soort dingen." Hij verwees naar een recent onderzoek dat ChatGPT-maker OpenAI op de subreddit hield om te testen hoe "overtuigend" hun nieuwe o3-mini-model zou kunnen zijn bij het genereren van reacties op argumenten; de startup had in 2024 ook een soortgelijk experiment uitgevoerd op r/ChangeMyView voor zijn o1-model. OpenAI heeft ook generatieve-tekstmodellen getest op borden zoals r/AskReddit , r/SubSimulatorGPT2 en r/AITA (ook bekend als "Am I the Asshole?").

"We hebben behoorlijk strenge regels waaraan niet alleen de gebruikers, maar ook de moderators zich moeten houden", voegde Chin-Shue eraan toe. "We proberen goed met onze gebruikers te communiceren. Elke keer dat we een verzoek tot onderzoek hebben ontvangen en goedgekeurd, laten we de mensen dat weten." Hij gaf ook aan dat hij en zijn collega-moderators over het algemeen tevreden waren met de reactie en hulp van Reddit tijdens dit fiasco.

Dat is niet altijd het geval geweest, vooral niet als het gaat om de aanpassingen van het platform in het AI-tijdperk. De explosieve groei van de introductie van ChatGPT eind 2022 botste frontaal met de plannen van Reddit om minder als een gratis forum en meer als een zelfvoorzienend bedrijf te opereren, met nieuwe inkomstenbronnen (betaalde abonnementen, advertenties) en een beursgang . De meest controversiële beslissing om geld te verdienen was het plan van CEO Steve Huffman om geld te vragen voor toegang tot Reddits voorheen gratis data-API, om zo de hoeveelheid Reddit-tekst te beperken die webcrawlers van AI-bedrijven automatisch konden verwerken en gebruiken voor modeltraining. Dit leidde tot wijdverbreide opstand onder Redditors , met name onder degenen die hadden geprofiteerd van gratis API-toegang voor het coderen van mobiele apps, gebruikersbots en andere extensies om de Reddit-ervaring te verbeteren en te personaliseren. Toch wist Huffman deze gedupeerde gebruikers te overtuigen, hun opstand neer te slaan , het prijskaartje te bepalen, Reddit naar de beurs te brengen en het bedrijf eind 2024 zelfs zijn eerste winstgevende kwartaal te bezorgen.

Misschien wel het belangrijkste was dat hij dat jaar exclusieve AI-deals sloot. Google betaalt het bedrijf nu $ 60 miljoen per jaar voor toestemming om zijn AI-modellen te trainen met Reddit-tekst, waarbij de techgigant ook exclusieve rechten verwerft om Reddit-pagina's in zoekindexen weer te geven. (Volgens analisten is Reddit nu de op één na meest geciteerde website in Google's AI-overzichten, direct na de steeds meer door AI overspoelde Quora .) OpenAI, onder leiding van voormalig Reddit-directeur Sam Altman, ging een partnerschap aan met het platform om Reddit-output te citeren in ChatGPT-antwoorden, Reddit-advertentieruimtes te gebruiken voor OpenAI-promotie en het sociale platform in staat te stellen OpenAI-software te gebruiken voor in-app-functies. ( Semafor meldde vrijdag dat Reddit in gesprek is met een ander door Altman opgericht bedrijf, Worldcoin, om Redditors hun identiteit te laten verifiëren via de controversiële oogscantechnologie van de startup.) Enkele van de interne AI-tools die Reddit nu test, zijn onder andere een generatieve zoekfunctie " Reddit Answers " en een tool " Reddit Insights ", waarmee adverteerders meer te weten kunnen komen over onderwerpen die massaal interesse en goedkeuring genereren op het netwerk. Er zijn ook moderatiebots, die, zoals ik al meldde, enige kritiek hebben gekregen vanwege hun naar verluidt te agressieve controle op opmerkingen over controversiële beroemdheden zoals Elon Musk en Luigi Mangione.

Toch is het bewaken van de toegang tot Reddit een erkende strijd gebleken . In een interview vorig jaar met The Verge ging Huffman tekeer tegen AI-bedrijven zoals Anthropic, Perplexity en Microsoft omdat ze Reddit-gegevens zonder passende compensatie gebruikten. Destijds vertelde Anthropic aan The Verge: "Reddit stond op onze blokkeerlijst voor webcrawlen." Maar Reddit vindt nog steeds niet dat Anthropic te vrijgevig is geweest en klaagde deze maand de AI-startup aan omdat ze "de servers van Reddit meer dan honderdduizend keer bleven aanvallen" zonder toestemming, een beschuldiging waarmee Anthropic het "oneens is". In een verklaring aan Slate schreef Lee, de Chief Legal Officer van Reddit: "We zullen niet tolereren dat op winst beluste entiteiten zoals Anthropic Reddit-inhoud commercieel exploiteren voor miljarden dollars zonder enige vergoeding voor Redditors of respect voor hun privacy."

Als er een nóg moeilijkere taak is dan het controleren van roofzuchtige AI-crawlers, dan is het wel om Reddit-interacties persoonlijk, gezond en zo botvrij mogelijk te houden. Met mods die op vrijwillige basis werken, kunnen ze maar beperkt reacties en berichten modereren, vooral als ze de leiding hebben over grotere communities. De moderators van r/PublicFreakout, met ongeveer 4,7 miljoen leden, schreven me dat ze "aan de lage kant, zo'n 250.000+ reacties per maand krijgen."

"We hebben een behoorlijk groot en actief team, maar we kunnen onmogelijk zoveel reacties per maand lezen, en we kunnen zeker niet de profielen van elke individuele commentator bekijken", aldus een van de moderators. Een voormalig Redditor, die de gebruikersnaam Zakku_Rakusihi gebruikte en moderator was voor de subreddit r/BrianThompsonMurder, en in zijn dagelijkse werk met machine learning-software werkt, vertelde me dat "een aanzienlijk deel van Reddit het niet eens is met AI" en er daarom helemaal niet mee in gesprek wil gaan. Dit maakt het voor gebruikers alleen maar moeilijker om potentiële signalen van geautomatiseerde reacties of gegenereerde tekst te herkennen. "Veel gebruikers behandelen de meeste interacties nog steeds als menselijk, zelfs als sommige AI-tekst vrij voor de hand liggend is. Ik heb mensen daar een paar keer op moeten wijzen, maar ze snappen het niet. Het komt niet automatisch in hun hoofd op." Het is vooral erger als het gaat om door AI gegenereerde beelden, voegde hij toe: "In de subreddits met betrekking tot kunst en doe-het-zelf waaraan ik heb meegewerkt, moesten we regels invoeren om 'geen door AI gegenereerde kunst' te verbieden ."

Wat de zaken nog ingewikkelder maakt, is dat Redditors al lang vermoeden dat de site meer bots heeft dan mensen denken – al sinds de oprichters in de begindagen van het platform toegaven nepaccounts te gebruiken om de illusie van activiteit te creëren. Er waren inderdaad al veel bots en nepgebruikers op Reddit , lang voordat ChatGPT generatieve AI mainstream maakte. Maar het was niet zo dat al die bots misleidend of kwaadaardig waren – veel ervan waren tools die door moderators werden ingezet om ervoor te zorgen dat communities zich aan de regels hielden.

Halverwege de jaren 2010 publiceerde databeveiligingsbedrijf Imperva een rapport waaruit bleek dat in 2015 een kleine meerderheid van het verkeer op het hele web werd gegenereerd door zowel "goede" als "slechte" bots. Sindsdien is de "dode internettheorie" vooral op Reddit te zien. In het post-ChatGPT-tijdperk zul je geen gebrek vinden aan forumposts , essays en Reddit -berichten die beweren dat dit platform nu voornamelijk bestaat uit bots die met andere bots interacteren, een lot dat geliefde internetplatforms zoals Quora en DeviantArt is beschoren. Zelfs voordat het experiment in Zürich aan het licht kwam, beweerde een r/ChangeMyView-poster dat "er momenteel veel meer botactiviteit plaatsvindt dan openlijk wordt besproken, en dat de effecten van bots groter zijn dan mensen willen toegeven."