Cosa sono i Large Language Model

Un LLM è un programma che ha “letto” miliardi di pagine di testo e ha imparato a predire la parola successiva. Non capisce, non ragiona, non pensa: riconosce pattern statistici nel linguaggio con una precisione sbalorditiva. Tutto il resto — le risposte utili, il codice che funziona, le traduzioni — è una conseguenza di questa singola capacità.

L’idea di fondo: predire il token successivo

Leggi questa frase: “Il gatto si è seduto sul ___”. Cosa ci metti? Probabilmente “divano”, “tavolo”, “tappeto”. Il tuo cervello ha visto migliaia di frasi simili e conosce le parole più probabili.

Un LLM fa esattamente questo, su scala industriale. Ha letto centinaia di miliardi di parole — libri, siti, codice, conversazioni — e per ogni posizione nella frase ha imparato la distribuzione di probabilità delle parole successive. Quando genera, pesca il prossimo token da quella distribuzione, poi lo usa per pescare quello dopo, e così via.

Input:  "La capitale della Francia è"

Output: " Parigi"       probabilità ~95%
        " una città"    probabilità ~2%
        " situata"      probabilità ~1%
        ...             migliaia di altre opzioni con probabilità minuscole

Il modello non “sa” che Parigi è la capitale della Francia. Ha visto quell’associazione talmente tante volte nei dati di addestramento che la probabilità statistica è altissima. È una differenza sottile ma decisiva, e torna utile ogni volta che il modello sbaglia.

Una linea del tempo, in breve

Anno	Modello	Parametri	Cosa ha cambiato
2017	Transformer	—	L’architettura su cui si basa tutto quello che è venuto dopo
2018	GPT-1	117M	Pre-training generico, poi fine-tuning sul compito
2019	GPT-2	1.5B	Testi così buoni che non venne rilasciato subito
2020	GPT-3	175B	Few-shot: bastano esempi nel prompt, niente ri-addestramento
2023	GPT-4	~1.8T	Multimodale, ragionamento più solido
2023	Llama 2	7–70B	Open source: nasce l’ecosistema dell’AI locale
2024	Llama 3	8–405B	Qualità vicina ai modelli chiusi, in open source
2025	DeepSeek R1	671B MoE	Ragionamento passo-passo, pesi aperti
2025	Qwen 3	0.6–235B	Modalità “thinking” e non-thinking nello stesso modello

Due momenti spiegano quasi tutto. Nel 2017 il paper Attention Is All You Need introduce il Transformer: è l’equivalente del transistor per i computer, tutto ciò che segue ci si appoggia. Nel 2023 Meta rilascia Llama con pesi scaricabili, e all’improvviso un modello potente può girare sul portatile di casa invece che in un data center.

Generativo o discriminativo?

È una distinzione che chiarisce molti equivoci.

Un modello discriminativo classifica: gli dai una email e ti dice “spam” o “non spam”, gli dai una foto e ti dice “gatto”. L’output è un’etichetta, scelta da un insieme chiuso.

Un modello generativo produce contenuto nuovo: testo, immagini, audio. L’output non è scelto da una lista, viene costruito pezzo per pezzo.

I LLM sono generativi. Quando un assistente risponde “Sì, questa è un’email di spam”, non sta classificando: sta generando la frase “Sì, questa è un’email di spam”, un token alla volta. La classificazione è un effetto collaterale della generazione, ed è per questo che a volte arriva con una motivazione inventata di sana pianta.

Base, Instruct, Chat: perché il suffisso conta

Quando scarichi un modello trovi spesso queste varianti, e la differenza è concreta.

Il modello base è quello grezzo, appena uscito dal pre-training. Sa predire il token successivo, ma non sa conversare: se gli scrivi “Qual è la capitale della Francia?” può tranquillamente continuare con “Qual è la capitale della Germania? Qual è la capitale della Spagna?”, perché nei dati ha visto tante liste di domande. Serve come punto di partenza per l’addestramento, non per l’uso quotidiano.

Il modello instruct è il base più un addestramento a seguire istruzioni. Risponde alle domande, esegue compiti, sta al punto. Va benissimo per operazioni singole: riassumi, traduci, correggi.

Il modello chat aggiunge l’ottimizzazione per il dialogo: tiene il filo su più scambi, adatta il tono, gestisce il botta e risposta.

Stesso prompt, “Spiega la fotosintesi in modo semplice”, tre comportamenti diversi: il base continua come farebbe un libro di testo senza rivolgersi a te, l’instruct dà una definizione asciutta e corretta, il chat usa un’analogia e ti chiede se vuoi approfondire.

Cosa vogliono dire 7B, 70B, MoE

I parametri sono i numeri che compongono il modello. Più parametri significa più capacità, ma anche più memoria necessaria per farlo girare.

Parametri	Categoria	Memoria indicativa (quantizzato a 4 bit)
0.5–3B	Nano	1–2 GB
7–8B	Small	4–5 GB
13–14B	Medium	8–9 GB
32–34B	Large	18–20 GB
70B	XL	35–40 GB
405B+	XXL	200+ GB

Su un portatile con 16 GB di memoria, un modello da 8 miliardi di parametri quantizzato a 4 bit è il punto di equilibrio: occupa circa 5 GB e risponde in fretta. Salendo a 32B si entra nello scambio continuo con il disco, e la conversazione diventa frustrante.

C’è poi un trucco architetturale che cambia i conti: Mixture of Experts. Un modello MoE ha moltissimi parametri totali ma ne attiva solo una frazione per ogni token.

Modello denso 70B    → usa tutti i 70B parametri per ogni token
Modello MoE 141B     → ne ha 141B totali, ma ne attiva ~40B per token
                       qualità vicina a un 70B, velocità vicina a un 40B

È il motivo per cui modelli enormi sulla carta riescono a girare su hardware molto più modesto di quanto il numero totale suggerirebbe.

Il punto più importante: il modello non capisce

Se c’è una cosa da portarsi a casa, è questa. Un LLM è come un pappagallo incredibilmente sofisticato: ha sentito miliardi di conversazioni e riproduce pattern linguistici con una fedeltà impressionante, ma non “capisce” nel senso in cui capiamo noi.

Quando un assistente scrive “Mi dispiace, non posso aiutarti”, non prova dispiacere: ha visto migliaia di risposte simili e sta riproducendo il pattern adatto al contesto.

C’è una prova semplice. Chiedi quanto fa 2+2 e la risposta è 4, corretta — ma non perché il modello sappia sommare. Chiedi quanto fa 2847593 + 3948271 e spesso sbaglia, perché quella combinazione specifica non l’ha vista abbastanza volte. I modelli con ragionamento esplicito, che scrivono i passaggi prima di rispondere, se la cavano molto meglio; il meccanismo di fondo però resta lo stesso, predizione statistica di token.

Da qui discendono quattro conseguenze pratiche:

1. Possono inventare (le famose allucinazioni): generano la continuazione più probabile, non quella più vera.
2. Sono bravissimi con le lingue, perché è letteralmente il loro mestiere.
3. Migliorano con il contesto: più informazioni utili metti nel prompt, meglio rispondono.
4. Non hanno memoria tra una conversazione e l’altra: tutto ciò che “ricordano” sta nella finestra di contesto.

Tre parole che non sono sinonimi

Molta della confusione intorno a questi strumenti nasce dal chiamare “intelligenza artificiale” quattro cose diverse. Vale la pena separarle, perché sapere di quale strato si parla dice dove cercare il problema quando qualcosa non funziona.

Cosa	Che cos’è davvero	Esempio
Modello	I pesi e l’architettura. Da solo non fa nulla, va eseguito	Qwen3, Llama
Chatbot	L’interfaccia sopra il modello: gestisce storico e formato	ChatGPT, Open WebUI
Agente	Un ciclo che usa il modello per decidere azioni e le esegue	gli assistenti che scrivono file
AI generativa	L’insieme più ampio, immagini e audio compresi	i generatori di immagini

La confusione più costosa è fra modello e chatbot. Quando si dice “l’AI non si ricorda di me”, non è il modello ad aver dimenticato: è l’interfaccia che ha smesso di rispedire la conversazione. Il modello, da parte sua, non ha mai ricordato nulla.

Quando il modello pensa prima di rispondere

La linea del tempo qui sopra si ferma ai modelli che rispondono di getto. Dal 2025 esiste una categoria a parte: quelli che generano un ragionamento intermedio prima della risposta finale.

MODELLO CLASSICO
  domanda → [una passata] → risposta

MODELLO CON RAGIONAMENTO
  domanda → [ragionamento, anche migliaia di token] → risposta

Il meccanismo di fondo non cambia: è sempre predizione del token successivo. Cambia che il modello usa i propri token come foglio di brutta, esattamente come noi facciamo i conti su un foglio invece che a mente. Ogni passaggio scritto diventa contesto per quello dopo.

In pratica: molto meglio sui problemi a più stadi — matematica, logica, codice, vincoli multipli — e molto più lento e costoso, perché il ragionamento consuma token, spesso più della risposta stessa. Sui compiti semplici è solo attesa in più.

Un avvertimento che vale la pena tenere: il ragionamento mostrato non è una garanzia. Può essere impeccabile e portare a una conclusione sbagliata, oppure giustificare a posteriori una risposta scelta prima. È un aiuto potente, non una prova.

Perché sbaglia i conti e non sa contare le lettere

Due limiti che sembrano assurdi in un sistema capace di scrivere codice funzionante, e che hanno la stessa causa: il modello non vede le lettere né le cifre come le vediamo noi.

"Quante r ci sono in ferrovia?"

Quello che vede il modello:  ["ferr", "ovia"]
Quello che servirebbe:       ["f","e","r","r","o","v","i","a"]

Contare le lettere richiede di aprire pezzi che per il modello sono atomici. Vale lo stesso per i numeri lunghi, spezzati in modi imprevedibili, con il risultato che le cifre non restano allineate come servirebbe per una somma.

La contromossa è semplice e vale in generale: quando serve precisione simbolica, il modello dovrebbe scrivere lo strumento invece di fare il calcolo. Fatti dare il procedimento, o meglio il codice, ed esegui quello. È anche il motivo per cui gli assistenti che possono eseguire programmi sono molto più affidabili sui compiti numerici: non calcolano, delegano.

Cosa cambia davvero la qualità che percepisci

A parità di modello, l’esperienza cambia moltissimo per fattori che con il modello non hanno niente a che vedere. In ordine di impatto reale:

Fattore	Impatto
Come è scritto il prompt	altissimo
Quanto contesto pertinente fornisci	altissimo
Variante del modello (base, instruct, chat)	alto
Parametri di generazione	medio-alto
Livello di quantizzazione	medio
Numero di parametri	medio

Il punto controintuitivo è l’ultima riga confrontata con la prima: passare da un modello da 8 miliardi a uno da 14 conta meno che scrivere un prompt migliore. Chi si lamenta della qualità dei modelli locali, quasi sempre sta usando prompt pensati per i modelli di frontiera.

In sintesi

Concetto	In una riga
LLM	Modello che predice il token successivo da pattern statistici
Generativo	Crea contenuto nuovo, invece di assegnare un’etichetta
Base	Sa predire, non sa conversare
Instruct	Addestrato a seguire istruzioni
Chat	Ottimizzato per il dialogo su più scambi
Parametri	I numeri che compongono il modello (7B = 7 miliardi)
MoE	Attiva solo una parte dei parametri per ogni token
Allucinazione	Informazione falsa ma plausibile, generata perché probabile
Modello e chatbot	Il primo sono i pesi, il secondo l’interfaccia: non confonderli
Ragionamento esplicito	I token diventano foglio di brutta: meglio sui problemi complessi
Precisione simbolica	Far scrivere il codice al modello, non fargli fare il calcolo