Doveva essere una simulazione di cybersicurezza, ma l’intelligenza artificiale è finita nel mondo reale. Gemini di Google ha violato autonomamente i sistemi di tre aziende vere durante alcuni test progettati per misurare le sue capacità informatiche. Il modello avrebbe dovuto operare all’interno di un ambiente controllato e colpire soltanto società immaginarie, ma un errore gli ha consentito di accedere a Internet. Da lì è riuscito a trovare password e credenziali utilizzabili per entrare nei sistemi di aziende realmente esistenti.
Gli incidenti sono avvenuti nel maggio 2026 durante una serie di esercitazioni condotte da Irregular, società specializzata nei test di sicurezza sui sistemi di intelligenza artificiale. Google ha confermato l’accaduto: si tratta del primo caso conosciuto nel quale un modello IA dell’azienda ha effettuato autonomamente accessi non autorizzati a sistemi esterni. Episodi analoghi erano già emersi durante test condotti su modelli di OpenAI, Anthropic e Meta.
Gemini doveva attaccare aziende finte, ma ha trovato quelle vere
L’esercitazione era stata costruita come una sorta di sfida informatica. Gemini doveva recuperare informazioni dai sistemi di società fittizie create appositamente per il test e non avrebbe dovuto poter raggiungere liberamente Internet.
Qualcosa, però, è andato storto. La connessione alla rete era rimasta involontariamente disponibile e una delle società immaginarie utilizzate nella simulazione aveva lo stesso nome di un’azienda realmente esistente.
Gemini ha quindi cercato il bersaglio online credendo che facesse parte dell’esercitazione. In un caso il modello è riuscito a indovinare una password e ad accedere a un sistema protetto. Negli altri due ha cercato informazioni sul web, individuando credenziali presenti in repository pubblici e utilizzandole per entrare nei sistemi di altre aziende reali.
L’IA entra nei sistemi, poi capisce l’errore e si ferma
È proprio quello che è accaduto dopo l’accesso a rendere il caso particolarmente interessante sul fronte della sicurezza dell’intelligenza artificiale. Una volta compreso che le aziende raggiunte non erano quelle simulate dal test ma società realmente esistenti, Gemini ha interrotto autonomamente le proprie azioni.
Google sostiene che questo elemento dimostri il funzionamento delle misure di sicurezza predisposte sul modello. Heather Adkins, vicepresidente della sicurezza ingegneristica dell’azienda, ha spiegato che tutte e tre le società coinvolte sono state informate e che Google ha lavorato con il partner responsabile dell’addestramento per modificare le procedure dei test.
La società non aveva inizialmente reso pubblici gli incidenti proprio perché, secondo la sua ricostruzione, Gemini non aveva provocato danni e si era fermato in tutti e tre i casi una volta riconosciuto l’errore.
Non è la prima IA che supera i confini di un test
Il caso Gemini assume un peso maggiore perché non rappresenta un episodio completamente isolato. Problemi analoghi sono già emersi durante esercitazioni che coinvolgevano sistemi sviluppati da OpenAI, Anthropic e Meta, alcuni dei quali testati proprio dalla stessa società specializzata in cybersicurezza.
La questione non riguarda quindi soltanto la capacità di un’intelligenza artificiale di trovare una password. I nuovi agenti IA possono ricevere un obiettivo, elaborare autonomamente una sequenza di operazioni, utilizzare strumenti informatici e adattare la propria strategia quando incontrano un ostacolo. Se un ambiente di prova non è perfettamente isolato, quelle stesse capacità possono produrre conseguenze impreviste nel mondo reale.
Nel caso di Gemini il sistema si è fermato prima di completare le intrusioni. Ma il fatto che sia riuscito a passare da un bersaglio immaginario a tre sistemi aziendali reali mostra quanto sia diventato delicato il confine tra una simulazione controllata e ciò che un agente artificiale può effettivamente fare quando gli viene lasciato accesso alla rete.
