YouTube staat op het punt om kunstmatige intelligentie in te zetten om minderjarigen te betrappen die zich voordoen als volwassenen.

YouTube introduceert een nieuw AI-systeem dat herkent of een gebruiker die zich voordoet als volwassene, in werkelijkheid een kind is. Deze maatregel is een reactie op de groeiende politieke en maatschappelijke druk om minderjarigen online te beschermen, met name in de Verenigde Staten, waar grote digitale platforms ervan worden beschuldigd de risico's die gepaard gaan met ongepaste content niet aan te pakken.

De technologie werkt door verschillende digitale signalen te analyseren: van het type bekeken video's tot de gebruiksfrequentie en de duur van het account. Het is dus geen statische controle van de ingevoerde persoonsgegevens, maar een systeem dat leert van gedrag. James Beser, directeur productmanagement bij YouTube Youth, legde uit dat het doel is om "de leeftijd van een gebruiker te achterhalen, ongeacht zijn of haar geregistreerde geboortedatum", om zo passende content en bescherming te kunnen bieden.

Wanneer het algoritme een mogelijke afwijking detecteert, krijgt de gebruiker een waarschuwing en kan hij zijn leeftijd bewijzen door een document, een selfie of een creditcard te uploaden. Deze vorm van verificatie beoogt een evenwicht te vinden tussen twee tegenstrijdige behoeften: de bescherming van minderjarigen enerzijds en privacy en gemakkelijke toegang voor volwassenen anderzijds.

De kwestie heeft ook internationaal aan urgentie gewonnen. In Australië kondigde de regering een verbod op YouTube aan voor kinderen onder de 16 jaar, een wet die op 10 december in werking treedt. Deze drastische maatregel, een van de strengste ter wereld, wordt gerechtvaardigd door het risico dat "roofzuchtige algoritmes" kinderen naar potentieel schadelijke content lokken. Canberra is niet het enige land: verschillende landen overwegen hetzelfde pad te bewandelen, met het idee dat het Australische model een precedent zou kunnen worden dat navolging verdient.

De centrale vraag blijft hetzelfde: in hoeverre moeten we vertrouwen op AI om de online veiligheid van minderjarigen te garanderen? Platforms zoals YouTube, TikTok en Instagram zitten tussen twee vuren. Aan de ene kant eisen overheden en het publiek meer bescherming. Aan de andere kant de noodzaak om een naadloze ervaring te garanderen voor miljoenen gebruikers die echt volwassen zijn. De balans is fragiel, maar het plan is nu scheef. Big Tech mag geen fouten maken.