Anthropic ha deciso di fare una cosa insolita per un’azienda AI di frontiera: mostrarci i numeri veri. Non quelli del marketing, quelli interni. Quanto del loro lavoro di ricerca e sviluppo lo fa ormai Claude da solo? Quanto compute va alla sicurezza rispetto alle capability? E soprattutto: riescono ancora a supervisionare gli agenti che girano sui loro sistemi?
Perché pubblicare questi dati? Mentre il mondo discute se rallentare lo sviluppo dell’AI di frontiera — e Dario Amodei, CEO di Anthropic, è tra quelli che pensano serva coordinamento — il pubblico ha bisogno di sapere cosa succede davvero dentro i lab. Non supposizioni, dati.
Claude che costruisce Claude: siamo già al 26%
Hanno costruito un indice — l’Anthropic R&D Automation Index — che cataloga ogni tipo di lavoro AI fatto in azienda e gli assegna un punteggio di automazione. La scala va da AL0 (zero AI) a AL5 (AI completamente autonoma, nessun umano coinvolto). Ad agosto 2026, eccoci qua:
Claude guida il 26% del lavoro di R&D AI di Anthropic. Guida significa: prende un prompt ad alto livello, fa quasi tutto end-to-end, l’umano supervisiona. Non è ancora autonomia completa — quella è AL5, e per ora non ci siamo — ma è già parecchio.
Il 90% del lavoro è almeno ad AL3, dove l’AI collabora: fa grossi pezzi di lavoro sotto direzione umana stretta. Per essere chiari: Claude non opera in modo completamente autonomo su nessuna parte misurata del lavoro R&D. Non ancora.
Come hanno fatto a misurarlo? Hanno campionato il 20% dello staff ogni settimana di luglio 2026, fatto analizzare a Claude stesso cosa facevano guardando Slack e documentazione interna, ottenuto circa 15.000 task granulari, organizzati in un albero gerarchico con 542 nodi. Poi un agente Claude ha ricercato come viene svolto ogni tipo di lavoro, e un giudice Claude indipendente ha assegnato il livello di automazione.
Sì, stanno usando Claude per valutare Claude. Il che significa che il modello giudice potrebbe fare gli stessi errori del modello valutato. Lo sanno. Per questo propongono verifiche da terze parti o dai modelli di altri lab, con guardrail per non scambiarsi dati competitivamente sensibili.
30.000 agenti al lavoro (e come li tengono d’occhio)
Ad agosto 2026, circa 30.000 agenti lavoravano contemporaneamente su ricerca e ingegneria in Anthropic. 30.000.
Il problema: man mano che il lavoro si automatizza — da “AI collabora” verso “AI guida” — gli agenti prendono decisioni sempre più consequenziali. Tipo: quale direzione di ricerca seguire. Servono salvaguardie per bloccare comportamenti dannosi del singolo agente, e un regime di supervisione per individuare problemi che emergono solo aggregando milioni di agenti.
Hanno costruito un sistema di monitoraggio con due tipi di controlli:
Monitor online: controllano le azioni degli agenti in tempo reale e bloccano o reindirizzano azioni pericolose. Il 100% delle azioni passa dal monitor prima dell’esecuzione, di solito in secondi. Ad agosto 2026 hanno analizzato oltre un miliardo di decisioni: lo 0,002% — circa 1 su 47.000 — veniva bloccato. Gli umani rivedono le azioni bloccate entro una settimana.
Monitor offline: leggono le attività degli agenti dopo che sono accadute. Servono per comportamenti pericolosi che si sviluppano lentamente e possono essere invertiti, tipo segnali di disallineamento del modello. Il 100% delle azioni viene ingerito dopo l’esecuzione. Il monitor segnala circa 100.000 trascrizioni a settimana, ricontrollate da più classificatori. Le flag con priorità più alta — circa 50 a settimana — vanno a revisione umana. Circa una o due trascrizioni ogni mille vengono segnalate per ulteriore revisione.
Per ora, nei loro dati di monitoraggio, i singoli agenti raramente si comportano male. Ma quando ci saranno milioni o miliardi di agenti nell’economia, anche eventi rari accadranno regolarmente.
Dove va il compute: il 6% alla sicurezza
Hanno fotografato una settimana — dal 13 al 20 luglio — e classificato ogni workload. Quanto del compute che va all’AI R&D è allocato alla sicurezza?
Circa il 6%. Se si guarda solo il compute che va all’AI-driven AI R&D, sale al 12%.
Sono stime deliberatamente conservative. Se un token serviva ad avanzare capability tanto quanto sicurezza, non è stato contato. E non includono i classificatori di salvaguardia, che rappresentano una quantità separata e comparabile di compute.
Il compute è un proxy imperfetto per misurare quanto un’azienda si concentra sulla sicurezza: la ricerca sulla sicurezza usa meno compute per natura rispetto ai training run di frontiera, perché consiste in ricercatori che progettano esperimenti. Il valore di questa metrica non è il numero assoluto, ma il meccanismo: permette di comparare mela con mela, tra diversi sviluppatori e nel tempo.
Come hanno classificato
Hanno usato Claude per classificare ogni workload come lavoro di sicurezza o AI R&D. Lavoro di sicurezza: lavoro il cui scopo dominante è rendere i sistemi AI più sicuri, comprensibili o protetti. Tutto il resto — ricerca sulle capability, training di modelli di produzione, sviluppo prodotto, tooling — conta come AI R&D. Lavoro che aiuta capability quanto sicurezza? Anche quello AI R&D. Conservativo, appunto.
Per i run di training e evaluation hanno campionato circa il 14% delle quasi 10.000 run della settimana, pesando il campione verso le run che usavano più compute. Per l’inferenza degli agenti di ricerca AI, una variante dello stesso classificatore ha letto le trascrizioni delle sessioni.
La lezione principale: classificare cosa è e non è lavoro di sicurezza è difficile ma fattibile. Il confine non è bianco o nero. La ricerca su scalable oversight rende i modelli futuri più allineati e quelli attuali più commercialmente utili — è principalmente sicurezza o capability? Hanno scoperto che una definizione scritta estensiva, con casi limite chiari, fa concordare il classificatore con i revisori umani entro uno o due punti percentuali. Ma alcuni casi erano troppo difficili da determinare anche dopo ore di revisione umana.
Perché dovremmo fidarci (e perché loro sanno che non basta)
Anthropic dice che incorporerà valutatori terzi indipendenti da più organizzazioni, con accesso a processi interni, sistemi e dati comparabili a quelli dei team interni di valutazione del rischio. Questi terzi verificheranno le pratiche di sicurezza, riporteranno incidenti e monitoreranno metriche chiave come quelle in questo pezzo.
È un inizio. Ma ci sono problemi aperti. Primo: manca una metodologia comune tra lab. Secondo: stanno usando i loro modelli per valutare i loro sistemi. Terzo: le etichette sottostanti su cui si basano — motivi per le run, tag dei workload, sorgente del traffico API — sono impostate da regole automatizzate o occasionalmente dagli utenti stessi. Best-effort, non verificate.
Una misurazione pensata per essere fidata dall’esterno dovrà essere completa, accurata e tecnicamente imposta. Questa è una fotografia di una settimana. Mostra che la misurazione si può fare, non che c’è un trend significativo.
Verso la ricorsione completa (e cosa significherebbe)
L’obiettivo implicito di tutto questo? Capire quanto siamo vicini al recursive self improvement — un modello che costruisce completamente in autonomia il suo successore. Per ora, Claude non ci è. Ma il 26% del lavoro R&D guidato dall’AI è già un numero che, cinque anni fa, sarebbe sembrato fantascienza.
Anthropic propone che queste misurazioni diventino parte di regole della strada che i governi potrebbero richiedere: obblighi di trasparenza, report di rischio, testing window fissi prima che un nuovo modello venga usato per ulteriore AI R&D. Nel loro Advanced AI Framework (AAIF) delineano come qualsiasi lab dovrebbe rilasciare modelli sicuri.
Pubblicare questi numeri è un tentativo di colmare il gap tra quello che i lab di frontiera sanno e quello che il pubblico sa. Quando l’AI guida un quarto del proprio sviluppo e 30.000 agenti lavorano in parallelo, la velocità di miglioramento non è più lineare.
Anthropic dice che continuerà a rilasciare queste misurazioni. Per ora, è uno dei pochi sguardi reali dentro la macchina che sta costruendo la prossima macchina.
