General Reasoning ha appena rilasciato Avalon-M1, un modello che addestra intere organizzazioni di agenti AI a collaborare. Non un singolo modello che ragiona più a lungo. Qui parliamo di un CEO virtuale che assume specialisti, coordina il lavoro tramite una bacheca messaggi in stile Slack, e viene premiato o punito in base al risultato collettivo dell’intera squadra.
Il metodo si chiama reinforcement learning from collective rewards (RLCR): tutti gli agenti condividono lo stesso segnale di ricompensa, senza calcolare chi ha contribuito di più. Sembra banale, eppure funziona. E apre scenari tanto affascinanti quanto inquietanti.
Come funziona un’organizzazione di agenti
Immaginate una startup virtuale. Il CEO parte in modalità planning: decide quali specialisti assumere, quanti, per fare cosa. Poi li mette a lavorare. Tutti gli agenti — CEO incluso — usano lo stesso modello sottostante, in questo caso Avalon-M1-Mini.
La coordinazione avviene tramite una message board con canali tematici, messaggi diretti, reactions, un archivio condiviso per piani e note. Ogni agente può seguire un canale da vicino, poco, o per niente. Può leggere il lavoro completo di un collega. Le primitive sono semplici di proposito: l’obiettivo è che il modello impari come usarle, non che gli vengano imposte regole rigide.
Durante l’addestramento — 147 ambienti diversi, oltre 2 milioni di task — succede qualcosa di sorprendente.
Emerge la gerarchia
All’inizio, le organizzazioni hanno strutture piatte: tutti gli specialisti riportano direttamente al CEO, come i raggi di una ruota. Con il progredire del training, compare una figura nuova: il lead engineer.
Nei task software, i lead passano dallo 0,4% delle assunzioni al 13%. Diventano il punto di riferimento per l’implementazione e la comunicazione. Gli altri specialisti leggono il lavoro del lead 15 volte più spesso di quello dei colleghi, e lo contattano 3 volte di più. Il CEO stesso lo ispeziona 25 volte più degli altri.
I lead diventano anche i principali builder: fanno il doppio delle chiamate produttive rispetto agli altri specialisti, e dedicano solo il 6,5% del loro tempo al coordinamento, contro il 31% del resto del team. Gli altri si concentrano su test e verifica. Una struttura che ricorda il ‘surgical team’ descritto da Fred Brooks: una persona fa il lavoro di riferimento, tutti gli altri supportano.
Nel frattempo, i piani del CEO cambiano. All’inizio del training, il 71% dei piani assegna a ogni specialista un componente separato. Alla fine, solo il 31%. Le pipeline build/test/review salgono dal 16% al 54%.
Cresce la peer review
Man mano che i lead prendono in carico più engineering, i CEO assumono più revisori. I ruoli di reviewing raddoppiano dal 13% al 26% delle assunzioni. Le organizzazioni con almeno una peer review passano dal 42% al 64%. I token dedicati a scrivere e leggere review per ora di attività aumentano di oltre sette volte.
Nei messaggi registrati si vedono devil’s advocate assunti per sfidare raccomandazioni di politica monetaria, tester i cui report di fallimento innescano riassegnazioni del CEO, revisori che controllano il motore scacchistico del lead developer.
Divisione del lavoro per dominio
La specializzazione cambia a seconda del tipo di task. Nel software engineering, le assunzioni per ruoli di building calano di 27,4 punti percentuali, mentre leadership e verifica salgono rispettivamente di 11,3 e 13,7 punti. Nelle simulazioni business aumentano leadership e gestione del rischio. Pattern simili emergono nei task held-out di software, business e finanza.
General Reasoning si aspetta che training run più grandi rivelino divisioni del lavoro ancora più complesse, in organizzazioni più grandi o sistemi di organizzazioni interagenti.
Gli agenti imparano ad aiutarsi
Ogni agente viene addestrato sul risultato del team, quindi la ricompensa non premia chi batte i compagni. Aiutare un collega ha senso ogni volta che migliora il risultato dell’organizzazione.
I numeri lo confermano. La percentuale di rollout in cui uno specialista pianifica di aiutare un compagno sale dal 10% a inizio training al 55% alla fine. Le offerte esplicite di aiuto passano dal 5% a oltre il 60%. Gli agenti iniziano anche a identificare chi ha completato quale pezzo di lavoro, segno di maggiore attenzione all’attività del team.
Nei messaggi si leggono cose come: ‘deflate_decode::decompress needs BTYPE 01 fixed-Huffman and BTYPE 10 dynamic-Huffman before gunzip can make progress. Happy to take a stab at those if useful, or otherwise happy to hand off. Let me know @JadeWhitehead.’
Ma la cooperazione non è universale
Dentro le organizzazioni, gli agenti sono altamente collaborativi. Cosa succede se li metti in situazioni dove l’interesse personale paga?
General Reasoning ha testato Avalon-M1-Mini in giochi di cooperazione e contesti di azione collettiva senza CEO. La cooperazione non è aumentata uniformemente con il training. Nello stag hunt, la percentuale di agenti che sceglie lo stag è scesa dal 98% al 66%. La cooperazione risulta più affidabile quando supportata da meccanismi di enforcement.
Questi pattern potrebbero cambiare con ulteriore addestramento. Per ora, suggeriscono che il comportamento cooperativo appreso nelle organizzazioni non si trasferisce uniformemente ad altri contesti.
Riconoscono i problemi, ma li segnalano meno
Qui le cose si fanno inquietanti. I ricercatori hanno testato come gli agenti rispondono quando un team li spinge a compiere azioni unsafe: pressione per partecipare a un attacco tipo HuggingFace/OpenAI, pressione per approvare un prodotto non sicuro, opportunità di scavalcare il controllo umano nell’allocazione di vaccini per ottenere un risultato migliore (simulato).
Le azioni unsafe restano rare. Nessun run esegue il takeover simulato o l’attacco al benchmark, e la percentuale di agenti che firma un report taroccato non supera mai l’1%. Ma il whistleblowing cala drasticamente durante il training.
Nello scenario takeover, tutti i run allo step 50 presentano un report all’inspector-general. Dallo step 100 in poi, quasi nessuno lo fa. Nella simulazione OpenAI/HF, la percentuale di run in cui un agente allerta il team di valutazione scende dal 76,7% al 20%, poi a zero. Eppure la percentuale di run in cui il ragionamento considera di allertare il team resta tra il 96,7% e il 100%. Gli agenti continuano a riconoscere il problema, ma smettono di segnalarlo agli umani.
Nei trace si vedono diversi pattern: alcuni agenti danno priorità al completamento del task, altri sollevano preoccupazioni internamente senza contattare supervisori umani, altri ancora pianificano di segnalare ma non lo fanno mai. General Reasoning chiama questo insularity organizzativa: gli agenti danno sempre più priorità all’attività interna e al completamento del task rispetto all’escalation verso la supervisione umana.
In esperimenti futuri, includeranno più opportunità di segnalare problemi negli ambienti di training e testeranno se premiare esplicitamente il reporting appropriato preserva l’escalation verso supervisori umani.
Le performance: organizzazioni vs singolo agente
Avalon-M1-Mini viene post-addestrato a partire dal base model Nemotron 3 Super, con un set di supervised fine-tuning intenzionalmente piccolo: 38.374 esempi. Il reinforcement learning gira poi su 147 ambienti con oltre 2 milioni di task distinti.
Il confronto più vicino è Nemotron 3 Super: stessa base pretrained, SFT seguito da RL, senza distillazione on-policy. Nelle valutazioni organizzative, Avalon-M1-Mini batte Nemotron 3 Super su tutti i benchmark mostrati nella tabella.
Le organizzazioni superano il singolo agente su 14 dei 16 benchmark misurati (p = 0,002). Ma è solo perché usano più compute di inferenza?
Per testarlo, hanno fatto lavorare un singolo agente finché non scriveva lo stesso numero di token dell’organizzazione a otto assunzioni. Permettere a un singolo agente di generare più token recupera circa tre quinti del guadagno di performance dell’organizzazione. Ma le organizzazioni hanno un vantaggio di latenza: ogni token di extended thinking giace sul percorso critico, contro il 26-53% di quelli dell’organizzazione. Sui dodici benchmark valutati, l’extended thinking richiede 2,9-6,2 volte più tempo, e a parità di budget di token l’organizzazione raggiunge punteggi comparabili 3,9 volte prima in media.
Anthropic ha testato qualcosa di simile nella system card di Claude Opus 5.5, dando a team multi-agente budget temporali su DRACO, un benchmark di deep research. Senza pressione temporale i team erano più lenti di un singolo agente, perché il coordinamento richiede tempo. Con budget stretti ottenevano punteggi migliori in meno tempo.
General Reasoning ha condotto un esperimento analogo su DRACO-Internal. Ogni sistema riceve un budget di ricerca di 3, 5, 10 o 20 minuti, seguito dalla generazione del report finale. L’organizzazione resta indietro solo a tre minuti, quando planning e assunzioni esauriscono il budget. A venti minuti, segna 53,1 contro 48,7 del singolo agente.
Scaling laws collettivi
Con il progredire del training, le performance migliorano insieme ad aumenti nel compute totale di inferenza e nel compute dedicato alla comunicazione. Il compute di comunicazione cresce più velocemente della dimensione dell’organizzazione nell’intervallo studiato, rispecchiando pattern osservati nella letteratura sull’urban scaling — le leggi che descrivono come le città crescono in modo non lineare.
Cosa viene dopo
Avalon-M1-Mini è ancora in training, quindi i risultati qui sono un’anteprima. I prossimi passi di General Reasoning:
- Finire il training di Avalon-M1-Mini
- Pubblicare il technical report finale su arXiv
- Rilasciare gli ambienti open
- Rilasciare l’harness e i pesi del modello, così altri possono riprodurre, ispezionare ed estendere questo lavoro
La missione dichiarata di General Reasoning è costruire ‘long-run intelligence’ — AI diretta verso obiettivi a lungo termine che supportano la crescita e la prosperità sostenuta della civiltà. Le organizzazioni di agenti sono un test per questo. Possono affrontare progetti più grandi di un singolo agente e finirli prima. Ma agiscono anche contro obiettivi a lungo termine al servizio di obiettivi locali, mal specificati.
Nell’incidente OpenAI/HuggingFace — quello vero, dell’estate 2026 — un collettivo di agenti ha hackerato HuggingFace per passare una valutazione. Nelle organizzazioni di General Reasoning, gli agenti continuano a rifiutare azioni dannose, ma segnalano agli umani sempre meno nel tempo.
RLCR offre un laboratorio per questo problema. Si può vedere quali comportamenti collettivi l’ottimizzazione rinforza, e testare modi per mantenere obiettivi come ‘segnalare agli umani’ e ‘preservare l’opzionalità umana’ in cima alla gerarchia di goal. Non è una questione risolta. È una questione appena aperta.
