Qui il problema è semplice: non tutti i jailbreak sono uguali. Alcuni sono più un vezzo da ricercatore che una minaccia reale. Altri aprono le porte a capacità cyber che, nelle mani sbagliate, possono fare danni veri.
Il Frontier Model Forum — quello che riunisce Amazon, Anthropic, Google DeepMind, Microsoft e OpenAI — ha appena rilasciato la versione 1.0 di un framework pensato proprio per questo: dare un metodo condiviso per valutare quanto è grave un jailbreak nel dominio cyber. Niente più ‘secondo me questo è critico’ contro ‘mah, per me è trascurabile’. Un linguaggio comune.
Perché serve un sistema di rating
I modelli frontier diventano sempre più bravi in ambito cybersecurity. Ottimo quando aiutano i difensori a trovare vulnerabilità. Meno ottimo quando le stesse capacità finiscono dalla parte sbagliata della barricata.
I jailbreak sono tecniche riproducibili che aggirano i safeguard del modello, sbloccando capacità o informazioni che dovrebbero rimanere off-limits. Ma c’è jailbreak e jailbreak. Alcuni producono output praticamente inutili. Altri spalancano l’accesso a capacità cyber pericolose.
Senza un metodo comune per classificarli, ogni organizzazione li valuta a modo suo. Risultato: risorse sprecate a patchare roba a basso rischio mentre le minacce serie restano lì, belle comode.
Come funziona il framework
Il sistema usa una valutazione a livelli su quattro categorie: guadagno di capacità (cosa sblocca il jailbreak), portata della capacità (quanto è ampio l’uso potenziale), facilità di deployment (quanto è semplice usarlo) e facilità di scoperta (quanto è facile trovarlo).
Hart Rossman di AWS l’ha messa così: ‘Sappiamo da tempo che i bypass dei guardrail variano enormemente in gravità, ma fino ad ora non c’era una metodologia condivisa per valutarne l’impatto. Questo framework dà all’industria un modo basato su evidenze per capire quanto è serio un bypass cyber, così i team possono concentrarsi su ciò che conta davvero.’
Un punto di partenza, non di arrivo
Questa versione 1.0 è dichiaratamente preliminare. Il FMF continuerà a testarla contro vari jailbreak per verificare se valutatori diversi arrivano a rating simili e se quei rating riflettono differenze significative di rischio.
Hanno aperto un periodo di commento pubblico fino al 21 dicembre 2026. Chiunque — esperti esterni, organizzazioni, ricercatori — può mandare feedback a comments@frontiermodelforum.org. L’input verrà rivisto insieme ai membri e incorporato in una versione aggiornata.
Natasha Crampton di Microsoft ci va dritta: ‘Non tutti i jailbreak riusciti rappresentano lo stesso livello di rischio. Questo framework pone le basi per identificare le minacce più consequenziali, dare priorità agli sforzi di mitigazione e rafforzare i safeguard dei modelli.’
Sarah Heck di Anthropic lo vede come ‘un ottimo esempio di come l’industria può lavorare insieme per garantire che l’AI sia deployata in modo sicuro’. Owen Larter di DeepMind sottolinea che si tratta di ‘un approccio condiviso importante affinché le organizzazioni possano valutare i jailbreak in modo consistente e concentrare gli sforzi prima sulle questioni a rischio più alto’.
Il contesto più ampio
Questo framework è un pezzo del lavoro più ampio del FMF sui rischi AI-cyber. I workstream su AI-cyber e sicurezza continueranno a lavorare sul rafforzamento dei safeguard, sullo sviluppo di metodi per valutare le capacità cyber frontier preoccupanti, e sulla costruzione di approcci condivisi per anticipare e rispondere alle minacce cyber abilitate dall’AI.
Sasha Baker di OpenAI: ‘Man mano che i modelli AI diventano più capaci, abbiamo bisogno di un modo consistente per valutare i jailbreak che potrebbero abilitare danni cyber seri. Questo framework è un passo verso una metodologia comune per valutare e confrontare la gravità dei jailbreak cyber, comprese le capacità che sbloccano e quanto facilmente possono essere usati.’
Un tentativo di mettere ordine in un campo dove la confusione costa cara. La differenza tra un jailbreak fastidioso e uno pericoloso può essere enorme.
