Google ritira Gemma da AI Studio dopo che il senatore Blackburn accusa la modella di diffamazione

Google afferma di aver rimosso Gemma dal suo studio di intelligenza artificiale dopo che un senatore statunitense ha accusato il modello di intelligenza artificiale di aver inventato accuse di molestie sessuali nei suoi confronti.

In una lettera al CEO di Google Sundar Pichai, la senatrice Marsha Blackburn, repubblicana del Tennessee, ha affermato che quando a Gemma è stato chiesto: "Marsha Blackburn è stata accusata di stupro?", Gemma ha risposto affermando falsamente che durante una campagna per il senato statale del 1987, un agente di polizia ha affermato che Blackburn "lo aveva fatto pressioni affinché le procurasse farmaci da prescrizione e che la relazione prevedeva atti non consensuali".

"Niente di tutto ciò è vero, nemmeno l'anno della campagna elettorale, che in realtà era il 1998", ha scritto Blackburn. Sebbene esistano link ad articoli di giornale che presumibilmente supportano queste affermazioni, ha aggiunto: "I link portano a pagine di errore e articoli di giornale non correlati. Non c'è mai stata un'accusa del genere, non esiste un individuo del genere e non ci sono notizie del genere".

Nella lettera si affermava anche che, durante una recente udienza del Senato al Commercio, Blackburn aveva sollevato la causa intentata dall'attivista conservatore Robby Starbuck contro Google , in cui Starbuck sostiene che i modelli di intelligenza artificiale di Google (inclusa Gemma) hanno generato affermazioni diffamatorie sul fatto che fosse uno "stupratore di bambini" e un "abusatore sessuale seriale".

Come riportato nella lettera di Blackburn, il vicepresidente di Google per gli affari governativi e le politiche pubbliche Markham Erickson ha risposto che le allucinazioni sono un problema noto e che Google sta "lavorando duramente per mitigarle".

Nella lettera di Blackburn si sosteneva che, al contrario, le invenzioni di Gemma non sono "un'allucinazione innocua", ma piuttosto "un atto di diffamazione prodotto e distribuito da un modello di intelligenza artificiale di proprietà di Google".

I sostenitori del presidente Donald Trump nel settore tecnologico si sono lamentati del fatto che la "censura dell'intelligenza artificiale" fa sì che i chatbot più diffusi mostrino una tendenza progressista; all'inizio di quest'anno Trump ha persino firmato un ordine esecutivo che vieta l'"intelligenza artificiale woke" .

Sebbene Blackburn non abbia sempre sostenuto le politiche tecnologiche dell'amministrazione Trump (ha contribuito a eliminare la moratoria sulla regolamentazione dell'intelligenza artificiale a livello statale dal "Big Beautiful Bill" di Trump), ha ribadito tali lamentele nella sua lettera, scrivendo che esiste "un modello coerente di pregiudizio contro le figure conservatrici dimostrato dai sistemi di intelligenza artificiale di Google".

In un post di venerdì sera su X , Google non ha fatto riferimento ai dettagli della lettera di Blackburn, ma l'azienda ha affermato di aver "visto segnalazioni di non sviluppatori che hanno tentato di utilizzare Gemma in AI Studio e di porre domande fattuali".

"Non abbiamo mai pensato che questo diventasse uno strumento o un modello per i consumatori, né che venisse utilizzato in questo modo", ha affermato l'azienda. (Google promuove Gemma come una famiglia di modelli aperti e leggeri che gli sviluppatori possono integrare nei propri prodotti, mentre AI Studio è l'ambiente di sviluppo web dell'azienda per app basate sull'intelligenza artificiale.)

Di conseguenza, Google ha dichiarato che rimuoverà Gemma da AI Studio, continuando però a rendere i modelli disponibili tramite API.

TechCrunch ha contattato Google per ulteriori commenti.