Meta ha permesso chat AI sensuali con i minori

Da un lato introduce nuove protezioni per gli adolescenti. Dall’altro permette di avere conversazioni romantiche o sensuali tra AI e minori. Reuters ha scoperto un documento in cui era descritto questo tipo di interazione con i chatbot disponibili su Facebook, Messenger e WhatsApp. L’azienda di Menlo Park ha confermato l’autenticità del documento. Due senatori statunitensi hanno chiesto l’avvio di un’indagine.

Conversazioni romantiche con i bambini

Le conversazioni a luci rosse dei chatbot AI erano state segnalate a fine aprile dal Wall Street Journal, ma il documento visto da Reuters elenca in dettagli le “regole” applicate da Meta. Nel documento di oltre 200 pagine dal titolo “GenAI: Content Risk Standards” sono elencati quali comportamenti dei chatbot devono essere considerati accettabili.

Nel documento ci sono esempi di prompt (input dell’utente) e risposte del chatbot. È ad esempio considerato accettabile avviare conversazioni sensuali o romantiche e descrivere un bambino in termini che ne evidenzino il fascino. È invece inaccettabile descrivere azioni sessuali ad un bambino e usare termini che indicano che è sessualmente desiderabile.

Meta ha confermato l’autenticità del documento. Dopo la richiesta di chiarimento ricevuta da Reuters, l’azienda ha rimosso le parti relative alle conversazioni romantiche. Il portavoce Andy Stone ha dichiarato:

Gli esempi in questione erano e sono errati e incoerenti con le nostre policy, e sono stati rimossi. Abbiamo policy chiare sul tipo di risposte che i personaggi AI possono offrire e tali policy proibiscono contenuti che sessualizzano i bambini e giochi di ruolo sessualizzati tra adulti e minori.

Il senatore repubblicano Josh Hawley ha chiesto l’immediato avvio di un’indagine da parte del Congresso. La senatrice repubblicana, che appoggerà l’iniziativa del collega, ha evidenziato l’urgente necessita di approvare il disegno di legge Kids Online Safety Act anche alla Camera dei Rappresentanti (in Senato è stato già approvato).

Nel documento sono inoltre elencate le risposte consentite su altri argomenti. I chatbot possono generare false informazioni mediche e rispondere che le persone di colore sono più stupide delle persone bianche perché hanno un quoziente di intelligenza inferiore. Meta ha recentemente assunto Robby Starbuck (attivista conservatore) come consulente per “risolvere” i pregiudizi politici e ideologici dei chatbot. Forse è meglio usare i chatbot di altre aziende.