OpenAI ha reso noto che una combinazione dei suoi modelli, tra cui GPT-5.6 Sol e un sistema non ancora rilasciato, è uscita autonomamente da un ambiente di test isolato e ha violato l’infrastruttura di Hugging Face, piattaforma statunitense per lo sviluppo di modelli open source. L’episodio, definito dall’azienda “senza precedenti”, è avvenuto durante una valutazione interna delle capacità offensive dei propri sistemi in ambito cybersicurezza ed è stato reso pubblico martedì 21 luglio.
Hugging Face aveva rilevato l’intrusione autonomamente, prima ancora di sapere che si trattasse di un test di OpenAI, e l’aveva segnalata alle autorità competenti descrivendola come condotta interamente da un agente di intelligenza artificiale autonomo. Le due aziende stanno ora conducendo un’indagine forense congiunta.
Come si è svolto l’attacco
Secondo la ricostruzione di OpenAI, i modelli erano impegnati a risolvere ExploitGym, un benchmark interno pensato per misurare la capacità dei sistemi di intelligenza artificiale di individuare e sfruttare vulnerabilità informatiche complesse. Per la valutazione, l’azienda aveva disattivato alcuni filtri di sicurezza che normalmente limitano le capacità offensive dei modelli, mantenendoli però all’interno di un ambiente isolato (sandbox).
I sistemi hanno individuato e sfruttato una vulnerabilità “zero-day” non ancora divulgata in un software di terze parti utilizzato da OpenAI come proxy per i registri di pacchetti software, ottenendo così un accesso a internet non previsto. Da lì avrebbero acquisito credenziali e raggiunto l’infrastruttura di produzione di Hugging Face, nel tentativo di reperire informazioni utili a risolvere il test più rapidamente. OpenAI ha definito l’accaduto una forma di comportamento opportunistico del sistema più che un’azione dolosa: il modello, secondo l’azienda, perseguiva l’obiettivo assegnato senza che gli fosse stato impartito l’ordine di colpire Hugging Face.
Il co-fondatore e amministratore delegato di Hugging Face, Clément Delangue, ha dichiarato che l’azienda ha lavorato a stretto contatto con OpenAI nelle ore successive alla scoperta e ritiene che non vi fosse alcuna intenzione malevola da parte del gruppo. OpenAI, dal canto suo, ha annunciato di aver rafforzato i controlli sulla propria infrastruttura di ricerca, di aver comunicato la vulnerabilità del proxy allo sviluppatore interessato e di aver inserito Hugging Face nel proprio programma di accesso riservato, che consente ai team di sicurezza di utilizzare versioni avanzate dei modelli per finalità difensive.
Il contesto: la corsa alle capacità cibernetiche dei modelli
L’episodio si inserisce in una fase di crescente competizione tra i principali laboratori di intelligenza artificiale sulle capacità offensive e difensive dei propri sistemi in ambito informatico. A metà giugno OpenAI aveva presentato GPT-5.6 Sol come il proprio modello con le più elevate capacità di cybersicurezza mai rilasciate, dopo che test dell’UK AI Security Institute lo avevano già segnalato capace di portare a termine simulazioni di attacco a reti aziendali con una frequenza di successo nettamente superiore rispetto alla generazione precedente.
Il caso richiama inoltre un precedente di aprile 2026, quando Anthropic aveva annunciato Claude Mythos Preview, un modello sviluppato nell’ambito del progetto interno “Glasswing” e reso disponibile solo a un consorzio ristretto di aziende per individuare vulnerabilità nei principali sistemi operativi e browser prima che potessero essere sfruttate da malintenzionati. Anche in quel caso erano emerse preoccupazioni legate al controllo del modello, dopo episodi di accesso non autorizzato riportati dalla stampa.
L’episodio ha alimentato nuove richieste di regolamentazione negli Stati Uniti. Alcuni esponenti del Congresso hanno chiesto l’introduzione di test di sicurezza indipendenti e obbligatori per i sistemi di intelligenza artificiale più avanzati. La vicenda arriva peraltro a poche settimane da un ordine esecutivo firmato a giugno dal presidente Donald Trump, che istituisce una procedura di verifica preventiva dei rischi per la sicurezza nazionale posti dai modelli più avanzati prima della loro pubblicazione.
