← Tutte le lezioni
Lezione 22 Setup Locale 6:52

LM Studio

L'interfaccia grafica per scaricare, provare e servire modelli. Su Apple Silicon ha una carta in più: il formato MLX e il tool calling che funziona davvero.

Il video parte solo se lo chiedi: nessuna richiesta a YouTube prima del click.

Se Ollama è il motore da riga di comando, LM Studio è il cruscotto: un’applicazione desktop per cercare, scaricare, provare e confrontare modelli con qualche clic. Per chi non ama il terminale è il punto d’ingresso naturale.

Cosa fa

Cerca e scarica modelli direttamente da Hugging Face senza uscire dall’applicazione, con una chat integrata per provarli subito. Mostra prima del download quanto occuperà il modello e se la macchina lo regge — informazione preziosa, che evita parecchi tentativi sprecati.

Espone anche un server locale compatibile con le API OpenAI, esattamente come Ollama, quindi tutto ciò che costruisci sopra è intercambiabile.

La carta in più su Apple Silicon: MLX

Qui sta la differenza vera. Oltre al formato GGUF, LM Studio serve modelli in MLX, il framework di Apple ottimizzato per la memoria unificata dei chip della serie M. Sulla stessa macchina e con lo stesso modello, MLX è generalmente più veloce.

C’è poi un dettaglio che conta per chi costruisce agenti: il tool calling — la capacità del modello di invocare strumenti esterni in modo strutturato — funziona in modo affidabile. È il motivo per cui viene scelto come backend per agenti locali come Goose, dove l’affidabilità delle chiamate a strumenti è tutto.

Ollama o LM Studio?

Non è una scelta esclusiva: convivono benissimo sulla stessa macchina, e molti li usano insieme.

OllamaLM Studio
Interfacciariga di comandoapplicazione desktop
FormatiGGUFGGUF e MLX
Scoperta dei modelliconosci il nome e lo scarichiricerca visuale con filtri
Automazioneottima, tutto da scriptpossibile, ma nasce interattivo
Agenti con strumentidipende dal modellopiù affidabile

In pratica: LM Studio per esplorare, capire cosa gira bene sulla tua macchina e servire agenti; Ollama per lo scripting e i servizi che devono partire da soli.

Un consiglio pratico

Usa LM Studio per la fase di scelta — scaricare tre modelli, provarli sugli stessi prompt, guardare velocità e qualità affiancate. È esattamente la valutazione personale di cui parlava la lezione sui benchmark, e qui si fa senza scrivere una riga di codice.

Usare il server locale da altri programmi

Oltre all’interfaccia, LM Studio espone un server compatibile con le API OpenAI: è il pezzo che lo rende utile anche a chi programma.

indirizzo di base   →   http://localhost:1234/v1
chiave              →   una stringa qualsiasi (non viene controllata)
modello             →   quello caricato nell'applicazione

Tre note che fanno risparmiare tempo: il modello deve essere già caricato, perché il server non lo carica su richiesta come fa Ollama; il nome è quello mostrato nell’interfaccia, non quello del repository di origine; e se il programma che chiama gira nel browser serve il permesso esplicito per le richieste da origini diverse, altrimenti la chiamata viene bloccata prima di partire.

Quando non è la scelta giusta

Vale la pena dirlo per non perdere tempo: è un’applicazione desktop, e su una macchina senza schermo non è lo strumento adatto.

SituazioneMeglio
Server senza interfaccia, avvio automaticoOllama come servizio
Uso interattivo sul proprio portatileLM Studio
Automazioni, script, lavori pianificatiOllama
Agenti locali con chiamata a strumentiLM Studio, più affidabile

Non è una scelta esclusiva: convivono sulla stessa macchina, su porte diverse. Il criterio è semplice — interattivo e visuale da una parte, automatico e senza sorveglianza dall’altra.

Cosa guardare quando scegli un modello dall’interfaccia

La ricerca integrata mostra decine di varianti dello stesso modello e la tentazione è prendere la prima. Tre numeri decidono al posto tuo.

La dimensione del file, che è il vincolo vero: deve stare in memoria con margine, non al limite. LM Studio mostra una stima e segnala quando un modello non ci sta — è l’informazione più utile dell’intera interfaccia.

La quantizzazione, che trovi nel nome: Q4_K_M per l’uso quotidiano, Q5 o Q6 se hai memoria da spendere. Fra un modello grande molto compresso e uno piccolo poco compresso, a parità di gigabyte, di solito vince il primo.

Il formato: su Apple Silicon, se esiste la versione MLX, è generalmente più veloce di quella GGUF a parità di modello. Su altre piattaforme la scelta non si pone.

Un errore che fa perdere tempo: scaricare tre varianti dello stesso modello per confrontarle. Meglio scaricarne una e provarla sui propri prompt reali — la differenza fra Q4 e Q5 si nota molto meno della differenza fra due famiglie diverse.

Provare due modelli sullo stesso prompt

È qui che l’interfaccia guadagna il suo posto: la valutazione personale di cui parla la lezione sui benchmark si fa senza scrivere una riga di codice.

Il metodo, un quarto d’ora:

  1. Tieni pronti venti prompt reali, quelli che useresti davvero, compresi i difficili
  2. Carica il primo modello e falli girare, incollando le risposte in un file
  3. Carica il secondo — stessi prompt, stessi parametri, altrimenti confronti due cose
  4. Rileggi le risposte affiancate contando gli errori veri, non le impressioni

Quello che emerge quasi sempre: le differenze non stanno dove le aspettavi. Due modelli che sui benchmark distano pochi punti possono comportarsi in modo opposto sul tuo compito, e il più “bravo” sulla carta può essere quello che ignora il formato che gli hai chiesto.

Conserva quel file: quando esce il modello nuovo, in dieci minuti sai se conviene cambiare.

In sintesi

ConcettoIn una riga
Cos’èApplicazione desktop per scaricare, provare e servire modelli
MLXFormato ottimizzato Apple Silicon: più veloce sui chip M
Tool callingAffidabile: è il backend consigliato per gli agenti locali
APIServer locale compatibile OpenAI, come Ollama
Uso idealeEsplorare e confrontare modelli senza toccare il terminale
Server localeCompatibile OpenAI, ma il modello va caricato prima
Quando noSu una macchina senza schermo serve Ollama, non un’app desktop
Scegliere un modelloDimensione del file, quantizzazione, formato: in quest’ordine
ConfrontoStessi prompt e stessi parametri, risposte affiancate

Lezioni collegate

  • Ollama

    Il runtime diventato standard per far girare modelli in locale: un comando per partire, un'API compatibile OpenAI su cui costruire qualsiasi cosa.

  • Open WebUI

    Un ChatGPT tutto tuo: interfaccia web, storico delle conversazioni, documenti su cui fare domande e più utenti. Tutto sulla tua macchina.

Guarda su YouTube