Open WebUI

Ollama ti dà un prompt nel terminale, LM Studio una finestra sul portatile. Open WebUI dà la cosa che manca a entrambi: una vera interfaccia da chat, raggiungibile dal browser, con lo storico delle conversazioni e più account. Praticamente un ChatGPT che gira in casa tua.

Si appoggia a Ollama come motore, quindi non sostituisce niente: aggiunge lo strato che serve quando l’uso smette di essere un esperimento e diventa quotidiano.

Cosa ci guadagni

Lo storico. Le conversazioni restano, si ritrovano, si riprendono. Sembra poco finché non ti serve una risposta di tre settimane fa.

Il RAG integrato. Carichi PDF, note o documenti di testo e fai domande su quelli: la tecnica della lezione sugli embedding, con l’interfaccia già pronta. È probabilmente la funzione che convince di più chi ci arriva per curiosità.

Più utenti. Ogni persona ha il suo account e le sue conversazioni. Utile in famiglia o in un piccolo gruppo di lavoro, con un solo modello che gira su una sola macchina.

Le immagini. Con un modello che ha la vista, le carichi direttamente nella chat.

Una libreria di prompt. I prompt che riusi si salvano e si richiamano, invece di essere riscritti ogni volta.

L’accesso da fuori: attenzione

Il salto interessante è poter usare i tuoi modelli dal telefono, fuori casa. Il modo giusto di farlo non è aprire una porta sul router.

L’approccio sano è una rete privata fra i tuoi dispositivi — del tipo di quelle che creano una rete virtuale cifrata — così l’interfaccia resta raggiungibile solo da chi è dentro, senza esporre nulla su internet. In alternativa, un tunnel in uscita con autenticazione davanti.

Il principio vale in generale, e conviene ripeterlo: le applicazioni con i tuoi dati restano private; su internet ci va solo ciò che è pubblico per natura.

Cose da tenere a mente

Va aggiornato: è software esposto a un browser, e gli aggiornamenti contengono correzioni di sicurezza. Vale la pena metterlo in un contenitore, così aggiornarlo costa un comando.

Il RAG integrato è comodo e generalista: ottimo per iniziare, meno controllabile di una pipeline costruita a mano quando i documenti diventano molti o molto specifici.

E ricorda che il modello resta quello che hai in locale: l’interfaccia bella non lo rende più intelligente.

Raggiungerlo da fuori casa, senza aprire porte

È il passo che quasi tutti vogliono fare — usare i propri modelli dal telefono — ed è quello in cui si commette l’errore più grave: aprire una porta sul router.

Open WebUI ha un’autenticazione propria, ma esporre su internet un’applicazione che ti self-hosti significa affidarne la sicurezza al ritmo con cui la aggiorni. Non è un rischio teorico: è il modo in cui i servizi domestici finiscono compromessi.

Modo	Giudizio
Porta aperta sul router	Da evitare
Rete privata fra i tuoi dispositivi	La scelta giusta
Tunnel in uscita con autenticazione davanti	Accettabile, più pezzi da gestire
Solo rete di casa	Sicuro, ma niente accesso da fuori

Con una rete privata l’interfaccia resta raggiungibile solo dai tuoi dispositivi: dal telefono la usi come se fossi in casa, e da internet non esiste.

Cosa perdi se il contenitore sparisce

Open WebUI conserva parecchia roba che non è ovvio stia lì dentro: gli account, lo storico di tutte le conversazioni, i documenti caricati con i relativi indici, i prompt salvati e le impostazioni.

Se i dati non stanno su una cartella esterna, ricreare il contenitore li porta via tutti. È il tipo di perdita di cui ci si accorge dopo, quando serve una conversazione di due mesi prima.

Due accortezze proporzionate: cartella esterna per i dati, così sopravvivono all’aggiornamento, e copia periodica insieme agli altri backup. Nota che i modelli non stanno qui — quelli si riscaricano. L’unica cosa davvero irrecuperabile è lo storico, e non essendoci nel cloud, se non lo salvi tu non lo salva nessuno.

Il RAG integrato: cosa aspettarsi

È la funzione che convince più di tutte al primo utilizzo — carichi un PDF e gli fai domande — ed è anche quella su cui è più facile farsi un’idea sbagliata.

Quello che fa: spezza il documento in pezzi, ne calcola gli embedding, e quando fai una domanda recupera i pezzi più vicini e li mette nel contesto del modello. È esattamente il meccanismo della lezione sugli embedding, con l’interfaccia già pronta.

Quello che questo comporta, in pratica:

Aspettativa	Realtà
“Ha letto tutto il documento”	Legge solo i pezzi recuperati per quella domanda
“Può riassumere l’intero PDF”	Male: il riassunto globale richiede tutto il testo, non pezzi
“Trova qualsiasi cosa ci sia dentro”	Solo se la domanda somiglia semanticamente al pezzo
“Funziona uguale con 100 documenti”	Più materiale c’è, più il recupero deve essere preciso

Le domande puntuali funzionano bene (“cosa dice il contratto sulla disdetta?”), quelle globali male (“di cosa parla in generale?”), perché nessun pezzo singolo contiene la risposta.

Due accorgimenti che migliorano molto il risultato: documenti puliti — un PDF scansionato male produce pezzi illeggibili e il recupero non può fare miracoli — e domande che usano le parole del documento, perché la somiglianza semantica aiuta ma la corrispondenza letterale aiuta di più.

Quando serve di meglio — molti documenti, precisione alta, codici e sigle — si passa a una pipeline costruita a mano, con ricerca ibrida e riordino. Il RAG integrato è generalista per scelta: comodo, non regolabile.

Gestire i modelli senza uscire dall’interfaccia

Dettaglio comodo che sfugge: da qui puoi vedere, scaricare e rimuovere i modelli di Ollama senza toccare il terminale. Utile soprattutto per la pulizia periodica, che è la manutenzione che tutti rimandano — ogni modello sono gigabyte, e dopo qualche mese di prove ne hai molti più di quanti ne usi.

In sintesi

Concetto	In una riga
Cos’è	Interfaccia web stile ChatGPT, sopra Ollama
Storico	Conversazioni salvate e ritrovabili
RAG	Carichi documenti e fai domande su quelli
Multiutente	Un’installazione, più account separati
Accesso remoto	Rete privata, mai una porta aperta sul router
Accesso da fuori	Rete privata, mai una porta aperta sul router
Backup	Conversazioni e documenti vivono nel contenitore: salvali fuori
RAG integrato	Recupera pezzi, non legge tutto: ottimo sulle domande puntuali
Limite	Riassunti globali e archivi grandi vogliono una pipeline costruita apposta