Muse Glimmer: Meta lancia l’AI agente che gira sul tuo PC (e pesa 20GB)

Meta ha appena rilasciato Muse Glimmer, e la cosa interessante non è solo che sia un modello da 30 miliardi di parametri. È che gira sul vostro Mac o PC. Completamente offline. Sì, quella roba che fino a ieri richiedeva datacenter.

Licenza Apache 2.0 — che tradotto significa: fateci quello che volete, anche commercialmente. Pesi aperti, documentazione inclusa, niente vincoli strani. Meta torna a fare quello che le riesce meglio: buttare modelli open source sul mercato e vedere cosa succede.

Un agente che vive nel vostro laptop

Muse Glimmer non è pensato per chat generiche. È ottimizzato per workflow agentici: schedulare, scrivere messaggi, gestire file, chiamare funzioni. Quelle cose che richiedono accesso profondo al contesto personale e che, diciamocelo, nessuno vorrebbe mandare su cloud altrui.

30 miliardi di parametri. Abbastanza grande da fare cose serie, abbastanza piccolo da starci in una GPU consumer. Il trucco? Quantizzazione a 4-bit che comprime il tutto sotto i 20GB, lasciando spazio per la cache KV, l’encoder visivo e il drafter per la generazione speculativa. Tutto dentro un budget di 24-32GB di VRAM.

E funziona anche senza internet. Sempre. Ovunque. Zero latenza di rete, zero dipendenza da API esterne.

Come l’hanno allenato

Tre fasi. Pre-training con distillazione logit da Muse Spark — il modello ‘teacher’ molto più grande. Mid-training su dati con contesti lunghi e tracce di ragionamento più ricche. Post-training che mescola supervised fine-tuning, distillazione on-policy e reinforcement learning su domini generali, coding, reasoning e agentici.

Il risultato è un modello che sa fare diverse cose in concerto: esecuzione multi-step, tool calling preciso, comprensione multimodale, memoria a lungo contesto, recupero da errori. Quando una chiamata a funzione fallisce, il modello diagnostica e riprova. Non si blocca come un cretino.

Multimodale e multilingue

C’è un encoder percettivo dedicato che accetta testo e immagini interleaved. Screenshot, grafici, documenti — l’agente li interpreta mentre conversa. E lavora su oltre 100 lingue, anche se il focus principale resta l’inglese.

Performance e benchmark

Meta lo ha testato su DeepSearch QA, MCP-Atlas, 𝛕-Bench, SWE-Bench. Roba che misura task completion end-to-end, debug di codice, risoluzione di richieste multi-turn. Muse Glimmer regge il confronto con Gemma4-31B e Qwen3.6-27B nella sua categoria di dimensioni.

Perfetto? No. Ma per un modello che gira sul vostro ThinkPad aziendale con i suoi eroici 32GB di RAM, i numeri sono solidi. E la valutazione è passata attraverso il Meta’s Advanced AI Scaling Framework — il che significa che hanno controllato se fosse sicuro rilasciarlo open weight.

Velocità: il drafter DFlash

Un agente che ci mette minuti a rispondere è inutile. Meta lo sa. Quindi hanno aggiunto speculative decoding con un ‘drafter’ basato su DFlash: una rete piccola che propone blocchi interi di token. Il modello principale li verifica in parallelo, accetta quelli giusti, corregge quelli sbagliati.

Risultato: generazione molto più veloce del classico token-by-token, con output identico in qualità. E il drafter quantizzato occupa poca memoria aggiuntiva.

Velocità misurata su MacBook M4-Max, M5-Max e RTX-5090 con il modello K-Quant-17GB: abbastanza fluida per conversazione in tempo reale e interazione agente. Tutto on-device.

Come iniziare

I pesi sono su Hugging Face già ora. Nei prossimi giorni arriveranno integrazioni ottimizzate per llama.cpp, MLX, ExecuTorch. Partner tipo Ollama, LM Studio, Unsloth per esecuzione locale. vLLM e SGLang per deployment scalabile. Together AI, Fireworks AI, OpenRouter per chi vuole partire veloce.

Volete customizzarlo? PyTorch TorchTitan vi permette di fare fine-tuning ulteriore. C’è anche documentazione per scaffold personalizzati — zero friction dal download all’agente funzionante.

Meta sta lavorando con AMD, Arm, Dell, Intel, NVIDIA per ottimizzare performance su diversi device. La solita strategia: buttare tutto open, lasciare che l’ecosistema ci costruisca sopra, vedere cosa emerge.

È l’ennesimo modello? Sì. Ma questa volta gira davvero sul vostro hardware, senza mandare dati sensibili chissà dove. E per chi vuole agenti personali seri, questa è la differenza che conta.

AI LABELS_3x2_3_black