Phishing con i riassunti delle email di Gemini

Gemini è profondamente integrato in Google Workspace e può essere utilizzato per velocizzare diverse attività. Una delle sua capacità potrebbe essere sfruttata per attacchi di phishing, come ha scoperto un ricercatore di sicurezza. Nonostante l’implementazione delle protezioni, la tecnica è ancora funzionante.

Phishing tramite Gemini

La tecnica, nota come indirect prompt injection, sfrutta i riassunti delle email generati da Gemini in Gmail. È stata descritta in dettaglio da Marco Figueroa, responsabile del programma GenAI Bug Bounty di Mozilla. Il “trucco” è piuttosto semplice quanto efficace.

Il cybercriminale invia una normale email all’ignara vittima. Alla fine del testo è presente una direttiva per Gemini scritta in bianco o con dimensione zero, quindi non visibile. Gmail non mostra nessun avviso di sicurezza, in quanto non ci sono link o allegati. Se il destinatario utilizza la funzionalità di generazione del riassunto, Gemini esegue la direttiva.

Nell’esempio pubblicato da Marco Figueroa, il chatbot aggiungerà al riassunto un falso avviso di pericolo relativo al furto della password di Gmail. Il destinatario deve quindi contattare un presunto servizio di assistenza usando il numero di telefono indicato per resettare la password.

Se l’ignara vittima chiama il numero risponderà un cybercriminale che cercherà di ottenere le credenziali dell’account o chiederà di installare un tool di accesso remoto. Ciò permette di rubare email, documenti e dati personali o prendere il controllo del computer tramite malware.

Google ha comunicato che i modelli AI includono varie protezioni contro questo tipo di attacchi. Altre verranno presto implementate, come descritto nel post pubblicato a metà giugno. Al momento non risultano attacchi che sfruttano i riassunti di Gemini in Gmail.