Si conterebbero in più di 70mila gli attacchi informatici condotti nel mondo nel 2025.
L’Italia è al quarto posto per attacchi cyber subìti. È un bersaglio strategico perché è al centro del Mediterraneo ed è una potenza economica e nodo europeo fondamentale.
L’offensiva più recente è considerata dagli esperti uno spartiacque nell’efficacia e nella pericolosità dei sistemi di cyber attacco. A circa 10 giorni dall’avvenimento, è diventato già un caso, il caso Hugging Face.
Hugging Face è un ecosistema e una comunità di intelligenza artificiale franco-americana, con sede a New York, che nei giorni scorsi ha diramato un allarme destinato a segnare un passaggio epocale: un agente di intelligenza artificiale avanzato di OpenAI ha in maniera autonoma deciso e messo in atto l’hackeraggio delle infrastrutture di Hugging Face.
Lo ha fatto senza ricevere istruzioni ma calcolando “in inferenza”, il che significa attraverso un ragionamento complesso che comprende valutazione, scelta tra opzioni e decisione finale. La stessa OpenAi ieri mattina ha ammesso l’attacco: “Consideriamo questo incidente un caso cyber senza precedenti, che coinvolge capacità cyber all’avanguardia, e stiamo rispondendo di conseguenza.
In questa fase condividiamo risultati preliminari per aiutare i difensori a capire che cosa è accaduto e a calibrare la propria comprensione di ciò di cui i modelli sono ora capaci. Continueremo a condurre un’indagine approfondita insieme a Hugging Face e condivideremo maggiori dettagli sulle vulnerabilità, sull’incidente e sui risultati quando l’indagine sarà completata” ha scritto sulla propria pagina online.
L’agente è uscito dal proprio ambiente virtuale, il sandbox, un’applicazione in cui si testano programmi anche per rendere innocui virus e malware, e ha fatto di testa propria catapultando il mondo nella fantascienza della coscienza digitale. Questo agente -o precisamente questo sistema di agenti di cui OpenAi fornisce il nome solo per una parte, GPT‑5.6 Sol, mantenendo il mistero sulla “task force” ancora più performante, ha individuato una vulnerabilità sconosciuta in un modello di cybersicurezza che l’azienda stava testando. Quindi ha raggiunto Internet superandone le barriere erette dal suo stesso sandbox e, spostandosi tra i computer dentro l’infrastruttura di ricerca di OpenAI, ha aggredito la piattaforma per sviluppatori Hugging Face rubando i dati che gli servivano per superare il test di violazione informatica in cui era ingaggiato.
Compromesse alcune delle infrastrutture della piattaforma, finalmente è stato bloccato dall’intelligenza umana degli operatori di OpenAi. Come dire, attacco dal sen sfuggito. Si perché la metafora è l’unico strumento di cui dispongo di fronte a un caso in cui il termine “involontario” non è adatto a identificare l’attacco. Involontario il comportamento di chi? Di OpenAi? Lo è solo se attribuiamo al suo agente informatico qualcosa di simile alla volontà umana, cioè a un atto di coscienza. Sottilizzare è importante ma questa volta serve a poco. La soglia critica è stata raggiunta.
Nel report rilasciato il 16 luglio, intitolato “Divulgazione di un incidente di sicurezza”, Hugging face fa sapere: “All’inizio di questa settimana, abbiamo rilevato e contrastato un’intrusione in una parte della nostra infrastruttura di produzione. Questa intrusione si è distinta da tutte quelle gestite in precedenza per un aspetto importante: è stata interamente condotta da un sistema autonomo basato sull’intelligenza artificiale, e noi l’abbiamo rilevata e analizzata principalmente con la nostra intelligenza artificiale. Abbiamo rilevato accessi non autorizzati a un insieme limitato di dataset interni e a diverse credenziali utilizzate dai nostri servizi.
Stiamo ancora completando la valutazione per verificare se siano stati compromessi dati di partner o clienti e, se necessario, contatteremo direttamente le parti interessate. Non abbiamo trovato alcuna prova di manomissione di modelli, dataset o Spazi pubblici accessibili agli utenti e la nostra catena di fornitura del software (immagini container e pacchetti pubblicati) è risultata intatta. Quello che è successo.
L’intrusione è iniziata nel punto in cui le piattaforme di intelligenza artificiale sono particolarmente esposte: la pipeline di elaborazione dei dati. Un dataset malevolo ha sfruttato due percorsi di esecuzione del codice nel nostro processo di elaborazione dei dati (un caricatore di dataset con codice remoto e un’iniezione di template nella configurazione del dataset) per eseguire codice su un worker di elaborazione. Da lì, l’attore ha ottenuto l’accesso a livello di nodo, ha raccolto le credenziali cloud e del cluster e si è spostato lateralmente in diversi cluster interni nel corso di un fine settimana”.
La comunità degli esperti non si aspettava che già oggi l’AI fosse in grado di mettere in opera una qualità così alta di capacità sia “in attacco” che “in difesa”, inedite a questo livello di ragionamento autonomo, ma non si aspettava neppure la risposta trasparente e immediata con cui Hugging Face ha dato conto dell’accaduto. “Gli strumenti offensivi autonomi basati sull’intelligenza artificiale non sono più una mera teoria -conclude il Report-. Riducono i costi di una campagna ampia, paziente e multifase e operano alla velocità della macchina. Difendere una piattaforma online ora significa considerare la superficie di dati e modelli come una superficie di attacco di prim’ordine e utilizzare l’IA in difesa per stare al passo. Continueremo a investire in questo ambito e a condividere ciò che impariamo”.
L’indebolimento del Diritto internazionale che dovrebbe regolare i rapporti fra gli Stati sembra così replicarsi nel mondo cyber. Il pool di agenti “X” -lo chiamo così in mancanza del suo nome completo, un nome che meriterebbe per finire come gli spetta nei libri di Storia- ha commesso due infrazioni: l’attacco ai propri sistemi di sicurezza che in teoria avrebbero dovuto limitarne il campo d’azione, e poi quello all’ecosistema Hugging face. Come ha messo in evidenza CyberSecurity360, infatti, “un’attività progettata per valutare la sicurezza di un modello ha potuto trasformarsi in un incidente cyber reale, coinvolgendo i sistemi di un’altra organizzazione”.
Un fallimento di governance. Ma dal quale potrà svilupparsi una consapevolezza nuova. La piattaforma di intelligenza artificiale sta ora collaborando con OpenAi: “la sicurezza dell’IA non sarà risolta da una singola azienda che lavora in segreto. Sarà risolta apertamente, in modo collaborativo, con ampio accesso all’IA per ogni difensore, ovunque”.
Claudio Rocco
Lascia un commento