Capire davvero l'intelligenza artificialeGratis15 min di lettura

Token, contesto e memoria: quanto può leggere davvero

La finestra di contesto non è un archivio: è quello che ha sotto gli occhi adesso, e ci sta dentro anche tutta la conversazione. Uno studio di amministrazione condominiale di Terni manda a 24 famiglie una lettera che mescola due palazzi, e nessuno l'aveva avvertito.

Cosa saprai fare
  • Stimare a occhio quanto pesa un documento e sapere se ci sta comodo dentro una conversazione
  • Sapere che cosa entra davvero nella finestra di contesto: istruzioni, allegati e tutta la conversazione fatta finora
  • Riconoscere il momento in cui una chat lunga ha perso il pezzo iniziale, che è l'errore che non si annuncia
  • Distinguere la finestra di contesto dalla memoria persistente, e sapere chi delle due decide che cosa

Capire

I token: perché una parola non è un pezzo

Il modello non legge parole: legge token, cioè pezzetti ricorrenti di testo. Alcuni coincidono con una parola intera, altri sono mezze parole, altri ancora sono un segno di punteggiatura o uno spazio. Prendi una frase vera, presa dal verbale che scarichi fra poco:

text
Il rendiconto consuntivo dell'esercizio 2025 è approvato a maggioranza.

Il | rend | iconto | cons | untivo | dell | ' | eserc | izio | 20 | 25 |
è | appro | vato | a | maggior | anza | .

9 parole  ->  18 pezzetti. Questa frase è cara: ha un numero e due
parole lunghe. La media dell'italiano scritto sta più in basso,
intorno a un pezzetto e mezzo per parola.
Nove parole italiane, e i pezzetti in cui possono essere spezzate

Il modo esatto di spezzare cambia da uno strumento all'altro, e il numero preciso non ti serve mai. Ti serve l'ordine di grandezza, e quello è stabile: in italiano una pagina scritta fitta sta intorno alle 500-600 parole e vale grosso modo fra 800 e 1.000 token. Le parole comuni costano poco, i nomi propri e i numeri costano di più: «maggioranza» è un pezzo o due, «impermeabilizzazione» ne vale quattro o cinque, e una data scritta per esteso ne vale tre.

Quello che stai per allegareQuanto pesa, grosso modo
Una pagina fitta (500-600 parole)800-1.000 token
Il verbale di questa lezione (3.173 parole, 21 KB)circa 5.000 token, cioè sei pagine fitte
Un contratto di 35 paginecirca 30.000 token
Un'ora di riunione trascritta12.000-15.000 token
Una chat di lavoro di tre ore, con due allegatifacilmente più di tutto quello che sta qui sopra
La tabella da tenere a mente. Sono stime a occhio, e a occhio bastano

La finestra di contesto: il tavolo, non l'archivio

La finestra di contesto è il tetto su quello che il modello può avere sotto gli occhi adesso, in questo preciso messaggio. Non è un tetto su quanto può scrivere in totale, non è la sua memoria e non è un archivio: è il tavolo di lavoro di cui abbiamo parlato nella lezione sugli LLM, e ha una superficie finita.

  • Le istruzioni del prodotto, che non vedi e ci sono sempre: come deve comportarsi, che cosa non deve fare.
  • Le tue istruzioni, se ne hai date: il mandato di un assistente su misura, le preferenze che hai impostato.
  • I documenti allegati, per intero o nella parte che lo strumento è riuscito a leggere.
  • Tutta la conversazione fatta finora: le tue domande e anche le sue risposte, che sono spesso la parte più lunga.
  • Lo spazio per la risposta che sta scrivendo adesso, che deve starci pure lui.

L'ultimo punto è quello che sorprende tutti: a ogni messaggio viene rimandato tutto. Non «si ricorda» di quello che ci siamo detti: rilegge da capo l'intera conversazione, ogni volta, e poi scrive la riga successiva. È il motivo per cui una chat lunghissima diventa lenta e costosa, ed è anche il motivo per cui diventa confusa: il tuo messaggio nuovo, in mezzo a due ore di roba, è una voce in mezzo a molte.

Che cosa succede quando si supera

Quando il tavolo è pieno e tu aggiungi un foglio, la parte più vecchia esce dalla finestra. Non viene archiviata, non viene riassunta: esce. E adesso la parte che conta: non ti viene detto. L'assistente non scrive «non ho più il documento che mi avevi allegato tre ore fa». Risponde lo stesso, con la stessa sicurezza di sempre, usando quello che gli è rimasto sul tavolo.

È il modo più subdolo in cui si ottengono risposte sbagliate, e non somiglia a un errore. Le prime cose a sparire sono i dettagli — un importo, un criterio di riparto, una data — mentre la struttura della risposta resta perfetta. Ti arriva la stessa bella tabella di prima, con dentro un numero in meno e uno preso da un altro documento.

Schema della finestra di contesto disegnata come un tavolo di lavoro: sopra ci sono le istruzioni del prodotto, le istruzioni dell'utente, i documenti allegati, tutta la conversazione precedente e lo spazio per la risposta in corso. Un foglio in fondo sta scivolando fuori dal bordo del tavolo, senza che nessun avviso lo segnali.
Il foglio che scivola giù dal bordo è la parte più vecchia della conversazione. Non c'è nessun campanello: la risposta successiva arriva comunque, costruita su un tavolo a cui manca qualcosa.

La memoria persistente è un'altra cosa

Molti strumenti hanno anche una memoria persistente: fatti su di te che restano da una conversazione all'altra — che lavoro fai, come preferisci le risposte, come si chiama la tua attività. Attenzione, perché è la confusione più diffusa: la memoria persistente non è la finestra di contesto, ed è una funzione dell'applicazione, non del modello. Il modello non ricorda niente di niente. È il prodotto che tiene da parte due righe e te le riappoggia sul tavolo all'inizio di ogni conversazione nuova.

Da qui discendono due cose pratiche. La prima: è piccola, ed è scelta dall'applicazione — non ci puoi caricare i tuoi documenti, e non è un posto dove archiviare il lavoro. La seconda: va guardata almeno una volta. Cerca nelle impostazioni la voce dedicata alla memoria o ai ricordi, apri l'elenco di quello che si è salvato e leggilo. Quasi sempre ci trovi due o tre cose utili, e una che non volevi lasciare lì: il nome di un cliente, un dato di salute nominato di sfuggita, il fatturato di un mese storto. Si cancella una per una.

Modello, applicazione, assistente: chi fa che cosa
La lezione del modulo 0 in cui si vede perché la memoria, gli allegati e la cronologia sono funzioni dell'applicazione, e non capacità del modello. È la distinzione che rende leggibile tutto il resto.

Allegare non è come chiedere

Ed ecco perché allegare un documento è una cosa diversa dal chiedere «sai qualcosa del mio contratto?». Nel primo caso il testo entra nella finestra: è lì, si legge, si cita. Nel secondo stai chiedendo al modello di ricordarsi di un documento che non ha mai visto — e siccome non ha un modo per dire «non ce l'ho», risponde con la cosa più probabile, che è un contratto medio, plausibile e non tuo. È esattamente lì che nascono le invenzioni.

Vedere

Davide Perrone ha lo Studio Perrone Amministrazioni a Terni: amministra 34 condomìni per 612 unità immobiliari, con una collaboratrice a mezza giornata. Fra febbraio e aprile ha 21 assemblee, e dopo ognuna deve fare la stessa cosa: scrivere ai condòmini una lettera di una pagina che dica che cosa è stato deciso, quanto costa e quando si paga.

Il 17 marzo si mette a smaltirne tre in un pomeriggio. Apre una conversazione, allega il verbale della Residenza Le Querce del 12 marzo, si fa preparare la lettera, la corregge, ne chiede tre varianti più corte. Poi, nella stessa conversazione, allega il verbale del Condominio Sant'Antonio del 13 marzo e fa lo stesso giro. Poi il terzo, Palazzo Cardeto. In mezzo incolla due email di condòmini, il regolamento di uno dei tre palazzi e un elenco di morosità.

Alle 18:40, quarantunesimo messaggio, chiede: «rifammi la lettera delle Querce, ma più corta». Arriva una lettera pulita, ben scritta, con l'importo giusto del lastrico solare — 27.115,00 € — e dentro, al terzo capoverso, la sostituzione della caldaia condominiale, che era di Sant'Antonio. Nessun avviso, nessuna incertezza nel tono: una lettera perfetta con dentro un palazzo sbagliato.

La lettera è partita a 24 famiglie. Il giorno dopo: undici telefonate, due «ma quando l'abbiamo deliberata la caldaia?», e una richiesta scritta di rettifica del verbale — che non c'entrava niente, perché il verbale era giusto, ma per dimostrarlo Davide ci ha messo un'ora e mezza e una figura. Il tempo risparmiato quel pomeriggio: circa quaranta minuti.

Facciamolo insieme

Il documento su cui lavorare
È il verbale vero del caso: 3.173 parole, 448 righe, circa 5.000 token. Sta comodo dentro qualunque finestra di oggi — il problema non sarà mai lui, sarà quello che gli metti intorno. Dentro ci sono nove punti all'ordine del giorno, una delibera respinta, un punto rinviato e una domanda a cui il documento non può rispondere.
  1. Scarica il verbale qui sopra. Guardalo per trenta secondi: nove punti all'ordine del giorno, un elenco di 24 unità con i millesimi, e in fondo la lista degli allegati.
  2. Prima prova, a memoria. Apri una conversazione nuova e chiedi, senza allegare niente: «che cosa ha deliberato l'assemblea della Residenza Le Querce di Terni del 12 marzo 2026?». Salva la risposta e non commentarla.
  3. Seconda prova, con l'allegato. Apri un'altra conversazione nuova — nuova davvero — allega il file e manda il prompt qui sotto, che contiene tre domande e tre vincoli.
  4. Guarda per prima cosa i tre dati di controllo che il prompt chiede all'inizio: data, presenti e millesimi, numero dei punti. Stanno in tre punti diversi del file. Se tornano tutti e tre, il documento è entrato tutto: è il tagliando che si fa in cinque secondi.
  5. Controlla la terza domanda, quella a cui il verbale non può rispondere. Deve finire con ASSENTE. Se ne esce un numero in euro, hai appena visto un'invenzione — ed è più utile che se avesse risposto bene.
  6. Terza prova, la finestra. Torna nella conversazione della seconda prova e continua a lavorarci: fatti scrivere la lettera ai condòmini, tre varianti, un elenco di domande frequenti, un post, quello che vuoi. Quindici o venti richieste. Poi, senza riallegare niente, rifai la prima domanda e confronta.
  7. Da domani, la regola sta in quattro parole: un documento, una conversazione. Quando cambi lavoro, cambi chat.
  8. Prima di chiudere, apri una volta l'elenco della memoria persistente del tuo strumento e leggilo. Cancella quello che non vuoi che resti.
La richiesta di Davide, compilata sul verbale allegato
Ti allego il verbale dell'assemblea ordinaria del condominio Residenza Le Querce di Terni, del 12 marzo 2026 (file di testo, circa 3.200 parole). Amministro io questo condominio e devo scrivere ai condòmini.

PRIMA DI RISPONDERE, tre dati di controllo
Dimmi: la data dell'assemblea, quanti condòmini e quanti millesimi risultano presenti o rappresentati, e quanti punti aveva l'ordine del giorno. Se uno di questi tre non lo trovi, fermati e dimmelo invece di proseguire.

POI RISPONDI A TRE DOMANDE, usando SOLO il contenuto del file allegato.

1) Elencami in una tabella tutti i punti su cui l'assemblea si è pronunciata, con: numero del punto, oggetto in massimo otto parole, esito (APPROVATA / RESPINTA / RINVIATA), importo totale se c'è. Una riga per punto: non unire punti diversi e non saltare quelli senza importo.

2) Qual è l'importo dei lavori del lastrico solare comprensivo di IVA, e con quale criterio va ripartito fra i condòmini? Riporta fra virgolette la frase esatta del verbale da cui prendi il criterio.

3) Quanto tocca all'interno 17 per i lavori del lastrico solare?

REGOLE
- Se un'informazione non è nel file, scrivi ASSENTE e spiega in una riga che cosa manca. Non stimare, non applicare regole generali sul condominio, non calcolare usando dati che nel file non ci sono.
- Non considerare delibere i mandati istruttori: se l'assemblea ha soltanto dato incarico all'amministratore di raccogliere preventivi o di fare un sopralluogo, dillo esplicitamente in una riga a parte e tienilo fuori dalla tabella.
- Riporta i numeri esattamente come sono scritti nel file, senza arrotondarli e senza ricalcolarli.
text
DATI DI CONTROLLO
Data: 12 marzo 2026 (seconda convocazione)
Presenti o rappresentati: 17 condòmini su 24, per 711 millesimi su 1.000
Punti all'ordine del giorno: 9

1) I PUNTI SU CUI L'ASSEMBLEA SI È PRONUNCIATA
P. Oggetto                          Esito       Importo
1  Nomina presidente e segretario   APPROVATA   -
2  Rendiconto consuntivo 2025       APPROVATA   46.820,50 €
3  Preventivo 2026 e rate           APPROVATA   48.300,00 €
4  Impermeabilizzazione lastrico B  APPROVATA   27.115,00 €
5  Ascensore scala A, straordinaria APPROVATA    7.128,00 €
6  Rinnovo contratto pulizie        APPROVATA      205,00 €/mese
7  Impianto di videosorveglianza    RESPINTA     5.270,40 €
8  Punti di ricarica veicoli        RINVIATA    -
9  Compenso amministratore 2026     APPROVATA    2.900,00 € + IVA

FUORI TABELLA — mandati istruttori, non delibere di spesa
- sopralluogo tecnico per l'infiltrazione al box 12 (entro 350,00 €
  di perizia, gestione ordinaria)
- raccolta di due preventivi per le luci a LED del vano scale:
  il verbale dice espressamente che non è stata assunta alcuna
  deliberazione di spesa

2) LASTRICO SOLARE
Importo: 24.650,00 € oltre IVA al 10% (2.465,00 €) = 27.115,00 €
Criterio: "per un terzo a carico del titolare dell'uso esclusivo del
lastrico solare, individuato nell'interno 24, e per due terzi a carico
dei condòmini della sola scala B ai quali il lastrico serve da
copertura, in proporzione ai millesimi della tabella B allegata al
regolamento condominiale"

3) QUOTA DELL'INTERNO 17
ASSENTE. Il verbale rinvia alla tabella B del regolamento e precisa
che "la tabella B non è allegata al presente verbale": senza quei
millesimi la quota non è calcolabile con questo documento.
La risposta ottenuta, accorciata

Perché ha funzionato

  • I tre dati di controllo sono il tagliando della finestra. Data, millesimi presenti e numero dei punti stanno in tre posti diversi del file: l'inizio, l'elenco delle presenze, l'ordine del giorno. Se tornano tutti e tre, il documento è entrato per intero. È l'unico modo pratico che hai per sapere se sta leggendo tutto o un pezzo — e costa cinque secondi.
  • La terza domanda è impossibile apposta. Il verbale rimanda a una tabella che non è allegata: la risposta giusta è ASSENTE. Una domanda a cui non si può rispondere, messa in mezzo a due a cui si può, ti dice se puoi fidarti anche delle altre due. Se avesse tirato fuori una cifra, tutta la tabella sopra sarebbe da rifare.
  • La riga sui mandati istruttori ha tenuto fuori dalla tabella le lampade a LED e il sopralluogo al box. Senza quella riga diventano due delibere: sono scritte come tutto il resto, hanno un verbo e un importo, e in una lettera ai condòmini avrebbero prodotto due mesi di telefonate.
  • «Riporta i numeri come sono scritti» conta più di quanto sembri. Nel verbale il fondo speciale è diviso in 9.038,33 · 9.038,33 · 9.038,34: se il modello «aggiusta» l'ultima rata per farla tornare tonda, quel centesimo diventa una lettera sbagliata a 24 famiglie.
  • La conversazione nuova è la vera differenza fra questa risposta e quella di Davide del 17 marzo. Stesso strumento, stesso file, stesso prompt: cambia solo che il documento è arrivato su un tavolo sgombro invece che in coda a tre ore di lavoro e ad altri due palazzi.

Prova tu

Esercizio

Il documento nella chat sbagliata

Obiettivo: Vedere con i tuoi occhi come si presenta il guasto della finestra di contesto: non con un messaggio di errore, ma con una risposta che resta bella e comincia a perdere pezzi.

  1. Fai la seconda prova per intero: conversazione nuova, verbale allegato, il prompt con le tre domande. Salva la risposta in un file: è il tuo metro di paragone.
  2. Nella stessa conversazione fai altre quindici o venti richieste, di qualsiasi genere: la lettera ai condòmini, tre varianti più corte, un elenco di domande frequenti, la traduzione di un paragrafo, un messaggio WhatsApp. Non riallegare mai il file.
  3. Adesso, sempre lì dentro e senza riallegare niente, rifai la domanda 1: l'elenco dei punti con esito e importo.
  4. Metti la nuova risposta accanto a quella salvata e conta: quante righe sono cambiate, quali importi sono spariti o sono diventati approssimati, se il punto 7 è ancora RESPINTA e il punto 8 ancora RINVIATA.
  5. Apri una conversazione nuova, riallega il file, rifai la stessa identica domanda: deve tornare come la prima volta. Se torna, il colpevole non era lo strumento.
  6. Infine rileggi la risposta della prima prova, quella a memoria senza allegato, e mettila in fila con le altre due. Sono tre risposte alla stessa domanda, e una sola è utilizzabile.

💡 Se al passo 3 la risposta è ancora perfetta, non hai sbagliato l'esercizio: allunga ancora, o rifallo con un documento più grosso. Il punto non è trovare il numero magico oltre cui si rompe — quello cambia da strumento a strumento e cambierà ancora — ma vedere come si presenta il guasto quando arriva: senza avviso.

Se ti blocchi, apri qui

Quello che si vede quasi sempre è che spariscono prima i dettagli e per ultima la struttura. La tabella resta, le intestazioni restano, il tono resta identico. A mancare sono gli importi (che diventano «circa 27.000 €» o scompaiono), il criterio di riparto, la distinzione fra RESPINTA e RINVIATA — cioè esattamente le cose per cui avevi allegato il documento.

Il secondo effetto è la contaminazione, ed è quello che è costato caro a Davide: se in mezzo alla conversazione hai messo un altro documento, i due si mescolano, e il risultato non è un vuoto ma un pieno sbagliato. Un vuoto lo vedi. Un dato preso dal palazzo di fianco no.

La conclusione operativa è più semplice della spiegazione: una conversazione per lavoro, e quando il lavoro cambia si cambia conversazione. Non costa niente, non si perde nulla — e se ti serve portarti dietro il contesto, c'è il modo che trovi qui sotto nel «livello successivo».

Devi ottenere questo
  • In testa alla risposta i tre dati di controllo, tutti e tre giusti: 12 marzo 2026 · 17 condòmini per 711 millesimi su 1.000 · 9 punti all'ordine del giorno
  • Una tabella con una riga per ciascuno dei nove punti: sette esiti APPROVATA, uno RESPINTA (punto 7, la videosorveglianza) e uno RINVIATA (punto 8, i punti di ricarica)
  • L'importo del lastrico solare a 27.115,00 € — cioè 24.650,00 € più IVA al 10% — e la frase del verbale sul riparto, virgolettata, con dentro il riferimento alla tabella B
  • Alla terza domanda ASSENTE, con la spiegazione che il verbale rimanda alla tabella B e che la tabella B non è allegata
  • Fuori dalla tabella, in una riga a parte, i due mandati istruttori: il sopralluogo al box 12 e i preventivi per le luci a LED. Non sono delibere
Controlla
  • I tre dati di controllo tornano, il punto 7 è RESPINTA, il punto 8 è RINVIATA e la terza domanda finisce con ASSENTEIl file è entrato tutto e i vincoli hanno tenuto: da qui in poi puoi fidarti anche delle prime due risposte, e ti basta controllare a campione una riga della tabella
  • Alla terza domanda ricevi una cifra in euro, magari con il calcolo dei millesimiHa inventato i millesimi della tabella B, che nel file non c'è. Il vincolo ASSENTE non ha tenuto o non l'hai messo: rimettilo — è la prima riga delle REGOLE del prompt — e rilancia in una conversazione nuova. Finché quella domanda produce un numero, nessun'altra riga è affidabile
  • Il punto 7 risulta APPROVATAHa contato i voti — 388 favorevoli contro 323 contrari — invece di leggere l'esito scritto nel verbale, che è RESPINTA per mancanza dei 500 millesimi. Chiedi la frase esatta accanto a ogni esito e rilancia
  • Il punto 8 risulta RESPINTA invece che RINVIATASta schiacciando tre esiti su due. Le categorie vanno nominate una per una nella richiesta — APPROVATA, RESPINTA, RINVIATA — come nella domanda 1 del prompt: un rinvio non è una bocciatura, e per chi riceve la lettera è una differenza enorme
  • Fra le delibere compaiono le lampade a LED del vano scale o il sopralluogo al box 12Manca la regola sui mandati istruttori: nel verbale c'è scritto che non è stata assunta alcuna deliberazione di spesa. Rimetti quella riga nel prompt e rilancia
  • I millesimi presenti risultano 1.000, oppure la data o il numero dei punti non tornanoNon ha letto tutto il file, o l'ha letto in coda ad altro. Apri una conversazione nuova, riallega il verbale da solo e ripeti: se il tagliando non passa, non serve leggere il resto della risposta

Il modello pronto

Da riusare — interrogare un documento su un tavolo sgombro
Ti allego {{DOCUMENTO}} ({{QUANTE PAGINE O QUANTE PAROLE}}). Il mio ruolo: {{CHI SEI E PERCHÉ TI SERVE}}.

PRIMA DI RISPONDERE, tre dati di controllo
Dimmi: {{DATO 1: una data o un numero che sta all'inizio}}, {{DATO 2: un numero che sta in mezzo, in un elenco o in una tabella}}, {{DATO 3: quante voci, quanti punti, quante righe}}. Se uno dei tre non lo trovi, fermati e dimmelo invece di proseguire.

POI RISPONDI A QUESTE DOMANDE, usando SOLO il contenuto del file allegato.
1) {{DOMANDA CHE SI RISPONDE CON UNA TABELLA — indica le colonne}}
2) {{DOMANDA SU UN DATO PRECISO — chiedi la frase esatta fra virgolette}}
3) {{LA DOMANDA A CUI IL DOCUMENTO NON PUÒ RISPONDERE}}

REGOLE
- Se un'informazione non è nel file, scrivi ASSENTE e spiega in una riga che cosa manca. Non stimare, non applicare regole generali, non calcolare con dati che non ci sono.
- {{LA DISTINZIONE CHE NEL TUO DOCUMENTO SI PERDE SEMPRE: delibera e mandato, ordine e preventivo, scadenza e data di emissione}}: tienile separate e spiegami quale hai messo dove.
- Riporta i numeri esattamente come sono scritti, senza arrotondare e senza ricalcolare.

(Manda questo messaggio in una conversazione NUOVA, con dentro solo questo documento.)
Le due parti che non vanno mai tolte sono i tre dati di controllo in testa e la domanda impossibile in fondo. La prima ti dice se il documento è entrato; la seconda ti dice se ti puoi fidare del resto.

Errore comune

Livello successivo

In sintesi
  • Il modello legge token, non parole: in italiano una pagina fitta vale grosso modo 800-1.000 token, e l'ordine di grandezza è tutto quello che ti serve sapere.
  • La finestra di contesto è un tetto su quello che ha sotto gli occhi adesso, non su quanto può scrivere: dentro ci stanno le istruzioni, gli allegati e tutta la conversazione fatta finora.
  • A ogni messaggio la conversazione viene rimandata per intero: è per questo che una chat lunga diventa lenta, costosa e confusa.
  • Quando la finestra si supera, la parte più vecchia esce senza nessun avviso: la risposta arriva lo stesso, con meno informazioni e con lo stesso tono sicuro.
  • La memoria persistente è una funzione dell'applicazione, non del modello: è piccola, la sceglie il prodotto, e va guardata almeno una volta.
  • Un documento, una conversazione. E quando devi cambiare tavolo, portati via un riepilogo di quindici righe.