Al ventesimo messaggio il tuo Claude o ChatGPT inizia a sparare boiate. Si ripete, dimentica l’inizio della chat, risponde a domande che non hai mai fatto.
Pensi che il modello sia stupido. No. Il modello va benissimo. Sei tu che lo stai alimentando nel modo sbagliato.
Il problema è nell’architettura
Questo è un problema architetturale in ogni LLM sul mercato. E nel 2026, tre persone che definiscono il futuro dell’AI hanno chiamato tutti la stessa skill che lo risolve.
Karpathy. Il CEO di Shopify. Gartner.
Una parola: Context Engineering.
Cosa è successo
Giugno 2025. Tobi Lutke, CEO di Shopify:
‘Mi piace davvero il termine context engineering più di prompt engineering. Descrive meglio la skill fondamentale: l’arte di fornire tutto il contesto necessario perché il task sia plausibilmente risolvibile dall’LLM.’
Sei giorni dopo, Andrej Karpathy (co-fondatore di OpenAI):
‘+1 per context engineering. In ogni app LLM di livello industriale, il context engineering è l’arte delicata di riempire la finestra di contesto con esattamente le informazioni giuste per il passo successivo.’
Gartner: entro il 2028, il CE sarà nell’80% degli strumenti AI.
Il prompt engineering non è morto. È diventato la fondazione. Ma sulle fondamenta ci costruisci sopra.
Non è hype da un tweet. Al passo 200 dell’esecuzione di un agente, il prompt non è quello che decide il successo. Quello che decide è tutto ciò che si è accumulato nella finestra di contesto nei 199 passi precedenti.
La differenza che conta
Prompt Engineering — quello che dici al modello.
Context Engineering — quello che il modello vede quando genera una risposta. L’intero ambiente: system prompt, documenti, storia, strumenti, memoria, dati.
L’analogia di Karpathy: LLM = CPU, finestra di contesto = RAM, tu = il sistema operativo. Carichi la roba giusta — funziona. Sovraccarichi con spazzatura — crasha.
Il prompting è una singola coppia input-output, riformuli e speri. Il CE è il flusso di informazioni attraverso l’intero sistema, produzione che gira senza di te, debuggata attraverso token e retrieval.
Perché l’AI diventa stupida nelle chat lunghe
Chroma (luglio 2025) ha testato 18 modelli di frontiera — GPT-4.1, Claude 4, Gemini 2.5, Qwen3.
Ogni singolo modello diventa più scemo man mano che l’input cresce.
Alcuni tenevano il 95% di accuratezza e sono crollati al 60% oltre i 32.000 token. Non gradualmente — giù da un precipizio.
Questo è il Context Rot. Tre cause:
Lost in the Middle — i modelli vedono l’inizio e la fine ma diventano ciechi nel mezzo. Stanford: -30% di accuratezza. Ecco perché Claude ‘dimentica’ il messaggio 3 al messaggio 20.
Attention Dilution — l’attenzione del modello è finita. Più token = diffusione più sottile. La roba importante affoga.
RoPE Decay — gli encoding posizionali indeboliscono le connessioni distanti. Architettura, non un bug.
La finestra da 200K di Claude e quella da 128K-1M di GPT — pubblicizzate, ma non funzionanti. La finestra effettiva è radicalmente più piccola.
Come appare la differenza
2023: prompt – modello – risposta. Una freccia.
2026: il modello è circondato da un ecosistema — knowledge base, memoria, API, dati in tempo reale, cronologia. Ogni fonte alimenta token. Ognuna è segnale o rumore.
Cursor, Claude Code, Perplexity — usano tutti gli stessi modelli. Tutti e tre vincono. La differenza non è il modello — è come assemblano il contesto.
Anthropic: il 24 luglio 2026 hanno rimosso l’80% del system prompt di Claude 5 — zero perdita sui benchmark. Meno contesto = risultati migliori.
Sì, avete letto bene. Meno roba dentro, performance migliori fuori.
Cosa vede davvero il modello
I modelli sono stateless — non ricordano nulla tra una chiamata e l’altra. La finestra di contesto è costruita da: System Prompt (Claude Projects / GPT GPTs), documenti RAG, memoria a lungo termine, dati in tempo reale, query dell’utente.
Ogni layer mangia token. CE = orchestrazione: token minimi, segnale massimo.
L’obiettivo: la goccia d’oro
L’obiettivo non è riempire una finestra da 2 milioni di token. È trovare il set più piccolo di token ad alto segnale.
Dati grezzi – filtraggio – una goccia d’oro: MVC.
Tre regole:
Recupera meno. 3-5 chunk precisi battono 20 ‘giusto per sicurezza.’
Posiziona con uno scopo. Roba importante ai bordi. Domanda alla fine. Il modello ignora il mezzo.
Compatta spesso. Le chat lunghe accumulano spazzatura. Nuovo task = nuova chat.
I tre pilastri del CE
Dynamic Memory — memoria che non salva tutto. Tre livelli: working (un task), short-term (sessione), long-term (lezioni con condizioni e date, non fatti grezzi).
JIT Retrieval — dati giusti al momento giusto. I vettori codificano il significato, non il tempo. Il report dell’ultimo trimestre è semanticamente identico a quello di questo trimestre — ma i dati sono vecchi.
Tool Ecosystem — non dare al modello 46 strumenti quando ne servono 3. Strumento extra = token extra + confusione.
4 bug che ammazzano l’AI
Poisoning — un’allucinazione entra nel contesto e viene citata come fatto. Fix: validazione.
Distraction — il modello affoga nella cronologia, ripete il passato. Fix: compattazione.
Confusion — 46 strumenti invece di 3. Fix: strumenti minimi vitali.
Clash — dati obsoleti vs dati correnti. Fix: potatura.
Vi suona familiare? Ora conoscete i nomi e le soluzioni.
In pratica
Utente: ‘Qual è la nostra policy sul congedo parentale?’
Senza CE: il modello indovina, dà una policy generica USA. Sbagliato.
Con CE: l’agente controlla il profilo (Germania, part-time), recupera la policy specifica, dà la risposta precisa.
Stesso prompt. Stesso modello. La differenza è il contesto.
Cosa fare ADESSO
Niente codice, niente sistema in produzione. Nel normale Claude e ChatGPT:
Nuove chat più spesso. Oltre 20 messaggi = context rot. Nuovo task — nuova chat. L’hack più potente in assoluto.
System prompt. Claude Projects / ChatGPT GPTs. Imposti una volta — ogni risposta migliora.
Non incollare l’intero PDF — incolla l’estratto. 200 pagine = rumore. 3 paragrafi = segnale.
Roba importante ai bordi. Istruzione prima. Domanda ultima.
Controlla le date. Contesto vecchio = errore #1.
Dove stiamo andando
2023 — Prompt Engineering. Parole magiche.
Metà 2025 — Context Engineering. Non cosa dire, ma cosa vede il modello.
Inizio 2026 — Loop Engineering. Loop invece di prompt manuali.
Metà 2026 — Graph Engineering. Grafi di loop, organizzazioni di agenti.
Ogni livello sta sul precedente. Gartner: entro il 2028, oltre il 50% dei sistemi AI enterprise useranno contesto basato su grafi.
Il trucco: un grafo di agenti su contesto sporco è solo loop rotti con frecce carine. Padroneggia il CE e il Graph Engineering è lavoro di una settimana. Saltalo e spedirai spazzatura ordinata in modo impeccabile.
I modelli diventeranno più intelligenti. Ma il vincitore non è chi ha il modello più intelligente — è chi assembla il miglior contesto.
Chi riempie la finestra degrada il modello. Chi spende il budget con criterio lo mantiene affilato.
