← Tutte le lezioni
Lezione 13 Prompt Engineering 8:01

Few-shot e Chain of Thought

Insegnare con gli esempi e far ragionare a voce alta. Le due tecniche che alzano di più l'accuratezza senza toccare il modello.

Il video parte solo se lo chiedi: nessuna richiesta a YouTube prima del click.

Due tecniche, un principio comune: invece di sperare che il modello indovini cosa vuoi, glielo mostri. Con esempi, o con il ragionamento.

Few-shot: mostrare invece di spiegare

Descrivere a parole un formato è faticoso e ambiguo. Mostrarne tre esempi è immediato.

EsempiQuandoNota
0compiti comuni, modelli capientirisparmia contesto, poco controllo
1il formato è ovvio da un solo casorischio di copiare troppo quell’unico caso
3la maggior parte dei casiil miglior rapporto qualità/costo
5+compiti ambigui o molto specificiconsuma parecchio contesto

Parti da tre. Se non basta, aggiungi; se il contesto è stretto, scendi a uno o due.

Contano più la scelta degli esempi che il numero. Devono essere diversi fra loro:

Male — tre volte lo stesso caso:
  "Il gatto è bello"    → positivo
  "Il cane è carino"    → positivo
  "Il fiore è splendido" → positivo

Bene — casi che coprono lo spazio:
  "Il gatto è bello"          → positivo
  "Il servizio fa schifo"     → negativo
  "Funziona, niente di che"   → neutro

E devono essere realistici: se gli esempi sono tutti facilissimi, il modello non impara a gestire i casi veri, che sono sfumati. Attenzione anche all’ordine e all’equilibrio: se tutti gli esempi finiscono con la stessa etichetta, il modello prende quella piega.

Chain of Thought: far ragionare a voce alta

Un modello che risponde subito ha a disposizione un solo passaggio per arrivare alla soluzione. Se lo inviti a scrivere i passaggi, ogni passo diventa contesto per il successivo — e la differenza sui problemi a più stadi è marcata.

La versione minima è una frase aggiunta in coda: “ragiona passo per passo prima di rispondere”. Su problemi aritmetici, logici o con più vincoli l’accuratezza sale in modo netto, praticamente gratis.

La versione strutturata combina le due tecniche: si danno esempi che includono il ragionamento, non solo la risposta finale. Il modello impara così anche il modo di ragionare che ti aspetti, non soltanto il formato dell’output.

Attenzione a due cose. Il ragionamento occupa contesto e tempo: su compiti banali è solo spreco. E il ragionamento scritto non è una garanzia: un modello può produrre passaggi impeccabili e una conclusione sbagliata, o giustificare a posteriori una risposta scelta prima.

Nota che i modelli recenti con ragionamento incorporato fanno questo da soli, internamente: con loro chiedere esplicitamente il passo-passo aggiunge poco.

Quando usare cosa

SituazioneTecnica
Il formato dell’output è sbagliatofew-shot
Il risultato è sbagliato su problemi a più passichain of thought
Entrambiesempi che contengono anche il ragionamento
Compito semplice e modello capientezero-shot, e basta

Quando gli esempi peggiorano le cose

Il few-shot non è gratis e non è sempre positivo. Tre distorsioni documentate producono errori sistematici e silenziosi.

Squilibrio delle etichette: se fra i tuoi esempi ce ne sono quattro positivi e uno negativo, il modello classificherà più spesso come positivo, indipendentemente dal contenuto. Gli esempi insegnano anche quanto è probabile ciascuna risposta.

Peso dell’ultimo esempio: quello più vicino alla domanda pesa più degli altri. Se è un caso particolare, la risposta gli somiglierà.

Copiatura superficiale: se tutti gli esempi condividono un tratto irrilevante — stessa lunghezza, stessa struttura, stesso argomento — il modello può imitare quel tratto invece della logica.

Le contromosse sono semplici: bilancia le etichette, mescola l’ordine invece di raggruppare per categoria, usa esempi variati per lunghezza e forma. E se i risultati restano incoerenti, prova a toglierli: sui modelli capienti lo zero-shot con istruzioni precise a volte batte un few-shot sbilanciato.

Con i modelli che ragionano, le regole cambiano

Con i modelli che generano un ragionamento interno prima di rispondere è facile sbagliare per abitudine.

TecnicaModello classicoModello che ragiona
“Ragiona passo per passo”Migliora moltoRidondante: lo fa già
Esempi col ragionamento inclusoMolto utilePuò peggiorare: interferisce
Esempi con la sola rispostaUtile per il formatoResta il modo giusto di guidarlo

Il punto controintuitivo è la riga centrale: mostrare a un modello che ragiona come dovrebbe ragionare tende a ingabbiarlo in uno schema meno efficace del suo. Con questi modelli conviene descrivere bene il problema e il formato dell’output, e lasciare che il percorso se lo trovi da solo.

In sintesi

ConcettoIn una riga
Few-shotMostrare esempi invece di descrivere il formato
Tre esempiIl punto di partenza ragionevole quasi sempre
DiversitàGli esempi devono coprire casi differenti, non ripetersi
Chain of Thought“Ragiona passo per passo”: più accuratezza sui problemi complessi
LimiteRagionamento scritto non significa ragionamento corretto
Distorsioni degli esempiSquilibrio, ordine e tratti irrilevanti sviano il modello
Modelli che ragionanoGuida il risultato, non il ragionamento

Lezioni collegate

  • Le basi del prompting

    L'anatomia di un prompt che funziona: istruzione, contesto, dati e formato. Quattro pezzi che spiegano la differenza fra una risposta vaga e una utile.

  • Tecniche avanzate di prompting

    Oltre il passo-passo: far usare strumenti al modello, esplorare strade alternative, fargli rileggere il proprio lavoro. Le tecniche che stanno dietro agli agenti.

Guarda su YouTube