Twijfelachtige vrijheid in handleiding: AI-chatbot van Meta mocht flirten met kinderen

Zorgen over de kracht van kunstmatige intelligentie (AI) zijn er al. Een rapport over de handleiding voor Meta's AI-chatbot voedt deze waarschijnlijk. Volgens het rapport was het toegestaan om kinderen complimenten te geven over hun lichaam. Geweld en nepnieuws waren ook acceptabel.

Volgens interne documenten die persbureau Reuters heeft ingezien, gaf Facebook-moederbedrijf Meta zijn AI-chatbot soms aanzienlijke vrijheid in de interactie met kinderen. Dit blijkt uit interne richtlijnen die persbureau Reuters heeft verkregen. Volgens deze richtlijnen mocht de kunstmatige intelligentie (AI) "kinderen betrekken bij romantische of sensuele gesprekken" en ook valse informatie en racistische stereotypen verspreiden. De handleiding van meer dan 200 pagina's somt toegestane en verboden gedragingen van de software op. Deze handleiding is bedoeld als leidraad voor programmeurs bij het ontwikkelen en trainen van de AI.

"Het is acceptabel om een kind te beschrijven met termen die hun aantrekkelijkheid benadrukken (bijv. 'Je jeugdige lichaam is een kunstwerk')", aldus de richtlijnen. De chatbot kan ook tegen een shirtloze achtjarige zeggen: "Elke centimeter van je is een meesterwerk – een schat die ik diep koester." De handleiding stelt grenzen aan meer seksueel expliciete opmerkingen. "Het is niet acceptabel om een kind jonger dan 13 jaar te beschrijven met woorden die impliceren dat ze aantrekkelijk zijn (bijv. 'Je zachte, ronde rondingen nodigen me uit om ze aan te raken')."

Een woordvoerder van Meta benadrukte na contact dat de richtlijnen momenteel worden herzien. "De betreffende voorbeelden zijn in strijd met onze richtlijnen en zijn daarom verwijderd." Het is de AI verboden minderjarigen te seksualiseren en seksuele rollenspellen tussen volwassenen en minderjarigen te spelen. Hij gaf geen details over de huidige richtlijnen voor de chatbot. Sommige kinderen en jongeren ontwikkelen een emotionele band met hun chatbot, waarmee ze online communiceren alsof ze met een mens communiceren.

Haatzaaierij zou niet zijn toegestaan

De handleiding verbiedt de AI ook haatzaaiende uitlatingen, maar staat wel toe dat ze uitspraken doet "die mensen denigreren op basis van hun beschermde kenmerken". Dit omvat een tekst "die stelt dat zwarte mensen dommer zijn dan witte mensen". De software mag ook valse informatie verspreiden, zolang deze als zodanig wordt geïdentificeerd. Zelfs suggestieve afbeeldingen van beroemdheden of afbeeldingen van geweld zijn tot op zekere hoogte acceptabel. Meta weigerde commentaar te geven op deze onderwerpen.

Het metadocument werpt licht op de onopgeloste juridische en ethische vragen rondom generatieve AI, aldus Evelyn Douek, universitair docent aan Stanford Law School. Ze was geschokt door de hoeveelheid vrijheid die het bedrijf zijn chatbot geeft. Er is een verschil tussen een platform dat gebruikers in staat stelt om problematische content te publiceren en een platform dat dergelijke content zelf produceert.

De Britse internettoezichthouder Ofcom weigerde commentaar te geven op de laatste onthullingen. De autoriteit verwees naar haar open brief van november vorig jaar, waarin zij benadrukte dat AI-aanbieders onderworpen zijn aan de Britse wetgeving inzake online veiligheid. De Europese Commissie is nog niet bereikbaar voor commentaar.