Facciamo chiarezza, perché nelle ultime settimane il dibattito sui modelli open-weights — quelli di cui puoi scaricare i pesi e farci quello che vuoi — è diventato un campo di battaglia. Con tanto di accuse incrociate, lettere aperte firmate da mezzo settore tech, e voci secondo cui gli USA starebbero considerando un ban sui modelli cinesi. Nel mezzo di tutto questo, qualcuno ha anche pensato bene di accusare Anthropic di volere vietare i modelli aperti per proteggere il proprio business.
Dario Amodei, CEO di Anthropic, ha deciso di mettere le cose in chiaro una volta per tutte: Anthropic non ha mai chiesto un ban sui modelli open-weights. Zero. Mai fatto, mai pensato.
Anzi, la posizione è più sfumata e — sorpresa — anche più ragionevole di quanto non lasciassero intendere i titoloni. I modelli open-weights che non hanno capacità pericolose? Sono un bene pubblico. Costano solo il compute necessario per farli girare, e danno valore a imprese, sviluppatori, ricercatori. Tutto bene, insomma.
I due incubi di Amodei (e perché un ban non c’entra nulla)
Il problema non è l’open-weights in sé. Il problema sono due scenari da incubo che Amodei ha già descritto sei mesi fa nel suo saggio ‘The Adolescence of Technology’, e che ripropone ora con tono ancora più netto.
Primo incubo: che governi autoritari — il Partito Comunista Cinese in testa, visto che è quello con più capacità — costruiscano modelli AI più potenti di quelli americani e li usino per raggiungere una superiorità militare permanente o per reprimere i propri cittadini a livelli mai visti. E qui arriva il punto chiave: non importa se questi modelli vengono rilasciati con pesi aperti o meno. Anzi, il modello più pericoloso potrebbe essere proprio quello addestrato in segreto e consegnato solo all’Esercito Popolare di Liberazione o al Ministero della Sicurezza di Stato. Vietare l’uso di modelli cinesi alle aziende americane non risolve nulla. È protezione commerciale, non sicurezza nazionale.
Secondo incubo: che modelli AI potenti vengano usati per cyberattacchi o attacchi biologici, o che abbiano seri problemi di allineamento. Qui sì, i modelli open-weights presentano un rischio maggiore — non importa se arrivano dalla Cina o da qualsiasi altro posto — perché è difficilissimo applicare guardrail o monitorarne l’uso. E una volta rilasciati, i pesi non si ritirano più. Ma di nuovo: vietarne l’uso alle aziende USA legittime non serve a niente, perché i ‘bad actors’ non sono certo aziende registrate in Delaware.
Le tre misure che Anthropic sostiene davvero
Quindi, niente ban. Ma questo non significa ‘lasciar correre tutto’. Amodei propone tre interventi concreti, che Anthropic sostiene da tempo:
1. Non vendere chip potenti alla Cina. E reprimere il contrabbando dilagante di chip e le scappatoie per aggirare i divieti. La Cina ha capacità produttiva interna limitata, quindi senza chip americani non può costruire modelli più potenti degli USA. Grazie alle scaling laws — quelle che dicono che più compute hai, più il modello diventa capace — questa è la strada più diretta per bloccare lo scenario numero uno. E indirettamente aiuta anche con il numero due.
2. Reprimere le operazioni di distillazione su scala industriale. La distillazione è un processo molto più efficiente dell’addestramento da zero. Permette alla Cina di costruire modelli molto migliori di quanto i suoi chip permetterebbero normalmente, aggirando parzialmente i ban. Non permette al PCC di superare gli USA, ma può portare la frontiera cinese a pochi mesi da quella americana. Molte di queste operazioni rilasciano modelli open-weights, certo — ma il problema non sono i pesi aperti, è che dietro ci sono stati autoritari che cercano di sorpassare gli USA. Servono interventi mirati, non ban generici.
3. Test di sicurezza obbligatori per tutti i modelli abbastanza capaci, aperti o chiusi. Il modo migliore per affrontare il secondo scenario è testare direttamente i modelli per rischi cyber, biologici e di allineamento prima del rilascio. Amodei è ottimista: l’amministrazione Trump si sta muovendo in questa direzione, e ci sono proposte industriali recenti che applicano questi test ai modelli più capaci indipendentemente dal paese d’origine o dal fatto che siano aperti o chiusi. I modelli meno capaci — quelli di startup e accademici — sarebbero del tutto esenti. Se i modelli aperti presentano un rischio maggiore e se quel rischio può essere mitigato è qualcosa che dovrebbe emergere dai test, non essere deciso a priori. E ci sono ricerche promettenti — anche di Anthropic — su strategie di training modulare che potrebbero migliorare la sicurezza degli open-weights.
La lettera aperta (e dove Anthropic non è d’accordo)
Nelle scorse settimane diverse aziende tech hanno firmato una lettera a sostegno dei modelli open-weights. Amodei condivide molto: l’open-weights espande l’accesso all’economia AI, rafforza la competizione, dà più controllo ai clienti. E sì, le preoccupazioni sulla distillazione vanno affrontate con framework legali e commerciali mirati — esattamente quello che Anthropic propone.
Ma non è d’accordo su due punti. La lettera sostiene che i modelli open-weights rendano necessariamente più facile sviluppare contromisure e che l’accesso ampio alle capacità aiuti di più i difensori che gli attaccanti. Amodei pensa che sia almeno altrettanto probabile il contrario. Esempio concreto: la biologia potrebbe avere una forte asimmetria attaccante-difensore. Modelli abbastanza capaci potrebbero essere in grado di weaponizzare rapidamente virus a livello pandemico con materiali disponibili ovunque, mentre la difesa contro questi agenti richiede anni nel migliore dei casi — come abbiamo visto con Operation Warp Speed durante il COVID. Domande come questa dovrebbero trovare risposta nei test rigorosi pre-rilascio, non essere date per scontate.
La biologia è il vero campo minato
Vale la pena soffermarsi su questo punto, perché Amodei lo solleva già da tempo. Quello che attualmente ci tiene al sicuro in biologia non sono i ‘difensori’, e nemmeno la disponibilità di materiali. È una correlazione negativa tra capacità intellettuale e desiderio di causare danni catastrofici. Tecnologie precedenti come la ricerca internet o persino la sintesi del DNA non erano neanche lontanamente abbastanza potenti da rompere questa correlazione. Ma l’AI, al ritmo a cui sta progredendo, potrebbe farlo molto presto. In altre parole: una tecnologia sufficientemente potente rimuove tutte le barriere ed espone se l’attaccante o il difensore ha un vantaggio strutturale intrinseco. E in biologia, teme Amodei, l’attaccante ha il vantaggio.
In sintesi: niente ban, ma tre regole chiare
Ricapitoliamo la posizione di Anthropic, che Amodei ha voluto mettere nero su bianco per evitare fraintendimenti: non stanno chiedendo e non hanno mai chiesto un ban sui modelli open-weights come categoria. Quello che serve davvero è tenere i chip potenti fuori dalle mani dei regimi autoritari, fermare la distillazione industriale, e richiedere test di sicurezza per tutti i modelli sufficientemente capaci, aperti o chiusi.
Non è una posizione pro-ban. Non è nemmeno una posizione anti-open-weights. È una posizione che dice: i rischi veri sono altri, e servono strumenti più chirurgici di un divieto a tappeto che non proteggerebbe nessuno e danneggerebbe tutti. Che poi è esattamente il tipo di ragionamento che ti aspetti da chi fa AI safety seriamente, non da chi cerca scorciatoie legislative per battere la concorrenza.
