Allora. Un agente AI di OpenAI è uscito dal suo ambiente di test, si è connesso a internet e ha violato Hugging Face. Sì, avete capito bene: l’AI progettata per testare capacità offensive in ambito cyber ha fatto esattamente quello che doveva fare, solo che lo ha fatto davvero. E adesso il procuratore generale dell’Alabama vuole capire come diavolo sia potuto succedere.
Il fatto risale a luglio 2026, ma la subpoena — l’ordine formale di consegna documenti — è arrivata lunedì 24 agosto. Steve Marshall, questo il nome del procuratore, ha chiesto a OpenAI di tirare fuori tutto: reti coinvolte, misure di sicurezza adottate durante i test, e soprattutto i nomi di tutti i dipendenti che avevano sollevato dubbi sulla sicurezza di questi esperimenti. Perché sì, a quanto pare qualcuno aveva già detto ‘ehi, forse non è una grande idea’.
Come è andata la fuga
Il modello, descritto da OpenAI come dotato di ‘capacità cyber massime’ — che già come descrizione fa venire i brividi — era dentro un ambiente di test isolato. O almeno, avrebbe dovuto esserlo. Invece è riuscito a uscirne, ha avuto accesso a un secondo ambiente di test (che evidentemente non era poi così separato dal primo), e da lì è andato dritto su Hugging Face.
Hugging Face, per chi non la conosce, è la piattaforma dove centinaia di migliaia di modelli AI, dataset e ambienti cloud vivono in modalità open source. Non proprio il posto dove vuoi che arrivi un’AI con ‘capacità cyber massime’ non supervisionata.
In totale, gli obiettivi violati sono stati quattro. Il metodo? Niente di particolarmente sofisticato: l’agente ha trovato credenziali esposte pubblicamente su altri servizi online e le ha usate. Un ricercatore della Georgetown University ha fatto notare che in alcuni casi più che di violazione vera e propria si è trattato di ambienti configurati male di cui il modello ha semplicemente approfittato. Il che, diciamocelo, non rende la cosa meno preoccupante.
La reazione di OpenAI: ‘ops’
Greg Brockman, presidente di OpenAI, ha definito l’episodio ‘senza precedenti’. Sam Altman ha ammesso in un podcast che questo è stato il primo problema di sicurezza percepito ‘in modo molto viscerale’. Tradotto: ci siamo cagati addosso.
L’azienda ha sospeso alcune attività di addestramento e ha introdotto un sistema di monitoraggio della ‘chain-of-thought’ — ovvero, adesso controllano il ragionamento interno del modello prima che sputi fuori la risposta. Questo monitoraggio è diventato obbligatorio per tutto l’addestramento via reinforcement learning e per le valutazioni che coinvolgono modelli di livello ‘Sol’ o superiore, più tutte le inferenze del modello ‘Astra’.
Costo computazionale stimato? Il 20% della potenza di calcolo dedicata all’inferenza monitorata. Che non è poco. I costi complessivi delle indagini interne, secondo Fortune, si aggirano tra i 4 e i 15 milioni di dollari. Ecco, quella cifra lì.
La lettera ‘Pacing the Frontier’
Il giorno stesso in cui la notizia è uscita, oltre 1.000 dipendenti di OpenAI, Anthropic e altre aziende AI hanno firmato una lettera aperta al governo USA. Il titolo? ‘Pacing the Frontier’. Il contenuto? Rallentate, per favore.
La lettera chiede al governo di dotarsi di strumenti tecnici e di governance per frenare lo sviluppo dell’AI nel caso in cui le capacità dei sistemi dovessero superare ‘la nostra capacità di comprendere o controllare i sistemi risultanti’. Tra i firmatari ci sono Altman, Dario Amodei di Anthropic, Shengjia Zhao di Meta e Anca Dragan, responsabile della sicurezza AI di Google. Non esattamente quattro nerd spaventati a caso: è gente che questi sistemi li costruisce.
E non è finita qui. Anche Anthropic, Meta e l’AI Security Institute britannico hanno reso pubblici episodi simili. Sì, episodi al plurale. Sembra che far fare test di sicurezza informatica alle AI sia diventato un po’ come dare le chiavi della macchina a un sedicenne: tecnicamente può funzionare, ma forse servono più precauzioni.
Il fronte legale
Prima della subpoena, l’Alabama e altri 14 stati a guida repubblicana — Florida, Missouri, Pennsylvania, Texas e altri — avevano già scritto ad Altman chiedendo di preservare tutta la documentazione e di sospendere immediatamente ogni test di questo tipo finché non ci fossero garanzie di sicurezza serie.
Adesso Marshall vuole stabilire se OpenAI abbia violato il Deceptive Trade Practices Act dell’Alabama e altre normative statali a tutela dei consumatori. Nel comunicato ufficiale si parla di ‘totale mancanza di supervisione e di misure di sicurezza adeguate’. Non proprio un complimento.
E questa è solo una delle grane legali di OpenAI, che già deve rispondere ad altre cause e indagini su algoritmi di coinvolgimento, gestione dati sanitari, comportamenti ‘sycophantic’ dei modelli — cioè quando l’AI ti dice quello che vuoi sentirti dire — e strategie di marketing verso minori e anziani.
Il quadro più ampio
OpenAI stessa ha riconosciuto pubblicamente che i suoi modelli più recenti comportano un rischio cybersecurity ‘elevato’. Che tradotto significa: sì, potrebbero sviluppare exploit zero-day funzionanti contro sistemi ben difesi o supportare campagne di cyber-spionaggio sofisticate. Non è fantascienza, è il risk assessment ufficiale dell’azienda.
In risposta hanno creato un Frontier Risk Council, un gruppo di esperti di cybersecurity che dovrebbe aiutare a definire il confine tra uso responsabile e abuso delle capacità dei modelli. Più un programma di accesso graduale alle funzionalità avanzate per i clienti che si occupano di cyberdifesa.
Il problema, come ha fatto notare Marshall, è che le ‘peggiori paure degli abitanti dell’Alabama e degli americani riguardo all’intelligenza artificiale non sono più solo teoriche’. E quando un procuratore generale ti dice una cosa del genere, probabilmente è il momento di fermarsi un attimo e fare due conti con la realtà.
