Google scopre il primo cyberattacco creato interamente con l’intelligenza artificiale
L’uso dell’intelligenza artificiale nel mondo digitale sta cambiando rapidamente il panorama della sicurezza informatica. Se fino a poco tempo fa l’IA veniva associata soprattutto alla produttività, ai chatbot o alla generazione di contenuti, oggi emerge un nuovo scenario che preoccupa aziende, governi ed esperti di cybersicurezza: la creazione di attacchi informatici avanzati sviluppati direttamente tramite modelli linguistici.
Secondo un recente rapporto pubblicato da Google, i ricercatori del team Google Threat Intelligence Group hanno identificato quello che viene considerato il primo exploit zero-day realizzato con il supporto dell’IA generativa. Una scoperta che potrebbe segnare un punto di svolta nella lotta contro il cybercrimine.
Come è stato scoperto il primo exploit sviluppato con l’IA?
Il caso è emerso durante un’indagine condotta dagli specialisti del Google Threat Intelligence Group (GTIG), il reparto dell’azienda dedicato all’analisi delle minacce informatiche globali.
Gli esperti hanno individuato un codice malevolo scritto in Python, progettato per aggirare i sistemi di autenticazione a due fattori, meglio conosciuti come 2FA. L’obiettivo dell’attacco era bypassare il secondo livello di sicurezza utilizzato da milioni di utenti e aziende per proteggere account, piattaforme e strumenti web.
Il bersaglio era una popolare piattaforma open source per la gestione web. Attraverso questo exploit, gli aggressori avrebbero potuto ottenere accesso ai sistemi anche in presenza di password corrette e meccanismi di verifica aggiuntivi.
Fortunatamente, secondo quanto riferito da Google, il problema è stato identificato in tempo. L’azienda ha collaborato rapidamente con il fornitore del software coinvolto, bloccando la campagna prima che potesse trasformarsi in un attacco su larga scala.
Perché Google ritiene che il malware sia stato creato dall’intelligenza artificiale?
Uno degli aspetti più interessanti del rapporto riguarda il modo in cui i ricercatori sono riusciti a capire che il codice non era stato scritto manualmente da hacker tradizionali.
Nel malware sono stati infatti individuati diversi elementi tipici dei moderni modelli linguistici AI. Tra questi comparivano:
- punteggi CVSS inventati o inesistenti;
- strutture del codice eccessivamente accademiche;
- documentazione insolitamente ordinata;
- commenti esplicativi troppo dettagliati;
- “docstring” educative simili a quelle presenti nei dataset di addestramento dell’IA.
Secondo gli analisti, questi dettagli rappresentano una sorta di “firma involontaria” lasciata dai sistemi generativi.
In pratica, il codice mostrava caratteristiche più vicine a un manuale didattico che a un malware scritto da cybercriminali esperti. Questo ha rafforzato l’ipotesi che dietro l’exploit ci fosse l’utilizzo di strumenti di intelligenza artificiale generativa.
Google ha precisato di non avere prove che sia stata utilizzata Gemini, la propria piattaforma di IA, ma considera comunque questo episodio il primo caso documentato di exploit zero-day creato tramite modelli linguistici.
Che cos’è un exploit zero-day e perché fa così paura?
Nel linguaggio della cybersicurezza, un exploit zero-day è un attacco che sfrutta una vulnerabilità ancora sconosciuta agli sviluppatori del software colpito.
Il termine “zero-day” indica proprio il fatto che i produttori hanno avuto “zero giorni” per correggere il problema prima che venga sfruttato.
Questa categoria di minacce è considerata tra le più pericolose al mondo perché:
- può colpire sistemi perfettamente aggiornati;
- spesso sfugge agli antivirus tradizionali;
- consente accessi invisibili e difficili da rilevare;
- viene utilizzata in attacchi altamente mirati.
Nel caso individuato da Google, la vulnerabilità riguardava un presupposto errato presente nella logica del sistema di autenticazione a due fattori. Proprio l’IA avrebbe contribuito a identificare un punto debole che gli strumenti tradizionali non erano riusciti a notare.
In che modo gli hacker stanno usando l’intelligenza artificiale?
Gli esperti di sicurezza osservano da mesi una crescita costante dell’uso offensivo dell’IA da parte dei cybercriminali.
Secondo il rapporto del GTIG, i gruppi informatici stanno sfruttando i modelli generativi per accelerare operazioni che prima richiedevano settimane di lavoro umano.
Tra le capacità già individuate compaiono:
- creazione automatica di campagne di phishing personalizzate;
- analisi di infrastrutture aziendali;
- raccolta di dati sulle potenziali vittime;
- studio di hardware e reti specifiche;
- sviluppo di malware più sofisticati;
- produzione di codice malevolo in tempi estremamente ridotti.
La vera differenza, però, è la velocità. Un’attività che un tempo richiedeva team specializzati e lunghi tempi di preparazione oggi può essere automatizzata parzialmente attraverso sistemi AI sempre più avanzati.
Cosa sono i framework agéntici citati nel rapporto?
Un altro elemento che emerge dall’analisi di Google riguarda la crescita dei cosiddetti framework “agéntici”, piattaforme composte da sistemi multiagente capaci di coordinare automaticamente diverse fasi di un attacco informatico.
Nel documento vengono citati strumenti come Hexstrike e Strix, associati a gruppi collegati a Cina e Corea del Nord.
Questi framework possono:
- eseguire attività di ricognizione;
- raccogliere informazioni sensibili;
- preparare payload malevoli;
- coordinare intrusioni complesse;
- automatizzare parte del processo decisionale.
In pratica, l’intelligenza artificiale non si limita più a generare codice, ma inizia a partecipare attivamente alla gestione delle operazioni offensive.
Per gli specialisti, questa evoluzione potrebbe aumentare enormemente la complessità delle future minacce digitali.
Come gli hacker aggirano le protezioni dei modelli AI?
Le piattaforme di IA generativa moderne includono numerosi sistemi di sicurezza pensati per impedire la produzione di contenuti dannosi. Tuttavia, i cybercriminali stanno sviluppando tecniche sempre più sofisticate per superare questi limiti.
Una delle pratiche più diffuse prende il nome di jailbreaking.
Si tratta di strategie che manipolano le istruzioni fornite all’intelligenza artificiale per ottenere risposte normalmente vietate.
Secondo Google, alcuni attaccanti fingono di essere ricercatori di sicurezza oppure utilizzano identità false per convincere i modelli linguistici a:
- analizzare vulnerabilità;
- generare exploit;
- suggerire tecniche offensive;
- produrre codice malevolo.
In altri casi, i sistemi AI vengono alimentati con enormi database contenenti vulnerabilità storiche ed exploit già noti, migliorando così la precisione dei futuri attacchi.
Perché questo caso potrebbe cambiare il futuro della cybersicurezza?
Per anni l’uso offensivo dell’IA generativa è stato considerato soprattutto un rischio teorico o sperimentale. Oggi, però, il quadro sta cambiando rapidamente.
Il rapporto di Google suggerisce che l’intelligenza artificiale stia diventando uno strumento operativo stabile all’interno del cybercrimine moderno.
Gli esperti temono soprattutto tre aspetti:
- maggiore velocità nello sviluppo degli attacchi;
- aumento della scala delle operazioni;
- crescita della sofisticazione tecnica del malware.
La combinazione tra automazione e apprendimento automatico potrebbe infatti permettere la creazione di minacce sempre più adattive, difficili da rilevare e capaci di evolversi rapidamente.
Anche se il primo exploit individuato è stato bloccato prima di causare danni significativi, molti analisti ritengono che episodi simili possano moltiplicarsi nei prossimi anni.
Per aziende, istituzioni e utenti comuni, questo significa una cosa molto chiara: investire nella sicurezza informatica e nella formazione digitale sarà sempre più importante in un internet dominato dall’intelligenza artificiale.