Eseguire l'IA in locale — e dove „locale“ è un mito
Digita oggi ollama nel tuo terminale. Quello che si avvia non è un modello locale.
Dalla versione 0.32.0 dell’11 luglio 2026, il semplice comando apre un agente — e le release notes di Ollama dicono con cosa: “Chat, Code, & Work (glm-5.2:cloud)”. Un modello cloud. Lo strumento più popolare per l’IA locale ti manda online già alla chiamata di default.
Non è uno scandalo, ma una scelta di prodotto, e si può disattivare. Ma è l’apertura perfetta per questo articolo. Perché „locale” è ormai una parola che va verificata, non creduta.
Perché lo si fa
Cominciamo con ciò che conta davvero — e non sono i soldi.
Se gestisci un’IA sui tuoi server esclusivamente per i tuoi scopi, secondo la Conferenza tedesca per la protezione dei dati (Datenschutzkonferenz) viene meno il rapporto di responsabile del trattamento. Sei l’unico titolare del trattamento. Nessun contratto di trattamento dati ai sensi dell’art. 28 comma 3 GDPR, nessuna catena di subresponsabili, nessun trasferimento verso paesi terzi, nessuna decisione di adeguatezza che possa saltare l’anno prossimo.
Questo è il punto da capire: l’elaborazione locale non è una riduzione del rischio. È l’eliminazione strutturale di un’intera catena di obblighi. Le autorità di vigilanza raccomandano esplicitamente l’elaborazione locale, ad esempio per il post-addestramento e il fine-tuning.
E la preoccupazione diffusa secondo cui gestire una propria IA porti in casa obblighi normativi non riguarda affatto chi la usa privatamente: l’AI Act, ai sensi dell’art. 2 comma 10, non si applica affatto all’uso puramente privato e non professionale, e l’art. 2 comma 12 esenta in linea di massima i sistemi open source gratuiti.
(Questa è una sintesi di testi normativi e indicazioni delle autorità, aggiornata al 24 luglio 2026 — non è una consulenza legale. Per il caso aziendale concreto, la competenza è del responsabile della protezione dei dati.)
Cosa entra nella tua scheda video
L’informazione più onesta sulla VRAM disponibile ufficialmente sono le dimensioni dei file nella libreria di Ollama. Calcolo approssimativo: ti serve tanta memoria video quanto è grande il file, più un po’ di margine.
| Modello | Dimensione (Q4) | Entra in |
|---|---|---|
| Gemma 4, 12B | 7,6 GB | scheda da 8 GB, a malapena |
| gpt-oss-20b | progettato per 16 GB | scheda da 16 GB |
| Qwen3.6-27B | 17 GB | scheda da 24 GB |
| Gemma 4, 31B | 20 GB | scheda da 24 GB |
| Laguna XS 2.1 (q4) | 20 GB | scheda da 24 GB |
| Qwen3.6-35B | 24 GB | 24 GB, davvero al limite |
La soglia d’ingresso realistica è quindi una scheda da 16 GB. Presso un grande rivenditore tedesco, una RTX 5060 Ti da 16 GB costava 555,85 € (prezzo promozionale), la scheda regolare da 16 GB più economica 559,64 €. La scheda da 32 GB (RTX 5090) costa un multiplo di questo, 4.248,99 €.
Due cose a riguardo, raramente presentate correttamente:
La quantizzazione non rende i modelli solo più piccoli, ma anche più veloci. Nell’esempio standard Llama-3.1-8B, la variante a 4 bit genera 71,93 token al secondo, quella a 16 bit solo 29,17 — un fattore 2,5. Il motivo: la generazione di testo è limitata dalla banda di memoria. Meno bit significa meno da leggere. L’idea diffusa secondo cui la quantizzazione sia un puro compromesso di qualità accettato solo per mancanza di spazio non è corretta così com’è.
La corrente non conta. Con un’ora al giorno a pieno carico, la 5060 Ti costa circa 2,22 € al mese, la 5090 circa 7,09 € — calcolato con il prezzo ufficiale tedesco dell’elettricità domestica di 40,55 centesimi per kilowattora. Anche con quattro ore al giorno sono 8,88 € e 28,35 €. L’argomento „l’IA locale non conviene per i costi dell’elettricità” è quindi fuori discussione. La decisione si gioca esclusivamente sul prezzo d’acquisto.
Il calcolo che quasi nessuno scrive
E il prezzo d’acquisto gioca contro di te.
555,85 € corrispondono — al cambio della data di consultazione — a circa 253 milioni di token di output su Gemini 3.5 Flash-Lite. Su Claude Haiku 4.5 sono 126 milioni, su Claude Sonnet 5 ancora 63 milioni, su GPT-5.6 Sol comunque 21 milioni.
Renditi conto di cosa significa. Chi genera 5.000 token al giorno — e questo è già un uso quotidiano intensivo — impiegherebbe, calcolando, circa 138 anni per arrivare a 253 milioni di token.
Espresso come break-even: la scheda entry-level si ripaga con 10 € di spesa API mensile dopo circa 71 mesi, cioè sei anni. Con 25 € dopo poco più di due anni. Solo a 50 € al mese diventa interessante, con appena dodici mesi. La 5090, a 50 € al mese, richiede circa otto anni.
L’IA locale non è quasi mai, finanziariamente, la scelta più economica. Chi la giustifica con „a lungo termine fa risparmiare” sbaglia, di norma, il calcolo. La si compra per la sovranità sui dati — che è un valore reale, ma un valore diverso.
Un’eccezione onesta: chi per motivi di conformità normativa ha comunque bisogno della residenza dei dati in Europa, paga presso entrambi i grandi fornitori statunitensi esattamente un sovrapprezzo del 10% — OpenAI lo chiama “a 10% uplift”, Anthropic un fattore 1,1. Questo sposta leggermente il calcolo, ma non in modo drammatico.
Il divario di prestazioni — e il trucco nel numero
Qui si fa spesso confusione, e la distinzione è decisiva.
“I modelli aperti hanno quasi recuperato” è vero — nell’Intelligence Index di Artificial Analysis, Kimi K2.6 e MiMo V2.5 Pro si collocano a 54 punti, DeepSeek V4 Pro a 52, contro i 60 di GPT-5.5 in vetta. Un anno prima il divario era decisamente più ampio.
“Posso farlo girare a casa” è un’affermazione diversa su modelli diversi. Kimi K2.6 ha un bilione di parametri. DeepSeek V4 Pro 1,6 bilioni. Sono modelli da centro dati. Sono aperti — ma non per questo eseguibili sulla tua scheda video.
Ciò che effettivamente entra in una singola scheda è molto più indietro: Qwen3.6-27B raggiunge 37 punti nell’indice — primo posto nella sua classe dimensionale, ma appunto 37 contro 60. gpt-oss-20b si ferma a 15.
E la controprova nel confronto alla cieca è ancora più netta: nella classifica di LMArena, tra i primi 15 non c’è un solo modello aperto. Il miglior modello aperto si trova al 29° posto.
Va detto per correttezza: la metodologia di questa arena è stata criticata in modo documentato (“The Leaderboard Illusion”), tra l’altro perché una quota molto ampia dei dati è concentrata su pochi fornitori commerciali. La critica, però, arriva da autori essi stessi vicini a un fornitore di modelli. Le due cose vanno lette insieme.
La mia conclusione: per riassumere, riformulare, strutturare, per la programmazione semplice, un modello da 27B su una scheda da 24 GB basta e avanza. Per i casi difficili — ragionamento lungo, compiti annidati, lavoro agentico — i 23 punti di differenza si sentono subito.
Dove „locale” non è locale
Questa è la parte che nessuna guida scrive, perché è scomoda.
La chiamata di default di Ollama. Vedi sopra: dalla v0.32.0, ollama avvia un agente con un modello cloud. I modelli cloud compaiono nello stesso elenco della libreria di quelli locali, distinti solo dal suffisso nel tag — gemma4:31b gira da te, gemma4:31b-cloud no. Un carattere di differenza.
La ricerca web nell’agente passa attraverso i server proprietari di Ollama e richiede un account e una chiave API.
Anche con un uso puramente locale si generano metadati. L’informativa sulla privacy di Ollama distingue chiaramente le due cose — i contenuti non vengono raccolti in locale, testualmente: “We do not collect, store, transmit, or have access to your prompts, responses, model interactions, or other content you process locally.” I metadati su dispositivo e utilizzo, invece, sì.
LM Studio dichiara l’assenza di telemetria e allo stesso tempo nomina apertamente le cinque funzioni che richiedono internet: ricerca modelli, download dei modelli, statistiche del catalogo, download dei runtime, verifica degli aggiornamenti. È la variante esemplare — il confine è scritto nella documentazione.
E per uno dei modelli più noti, il primo passo verso la sovranità è consegnare la propria identità: per scaricare i pesi „aperti” di Llama 4, Meta richiede il nome legale completo e la data di nascita. La licenza Llama, del resto, non è affatto una licenza open source — chi supera 700 milioni di utenti attivi mensili deve chiedere il permesso a Meta, concesso a sua esclusiva discrezione.
Quale modello scegliere se la licenza ti sta a cuore
Se „aperto” deve davvero significare aperto, la licenza è il primo criterio — e qui è cambiato qualcosa che in quasi ogni guida più vecchia risulta ancora sbagliato.
Gemma 4 è, dal rilascio del 31 marzo 2026, sotto licenza Apache 2.0 — la pagina della licenza riporta il testo completo e invariato. Tutte le generazioni precedenti di Gemma avevano una licenza proprietaria restrittiva, in cui Google si riservava perfino il diritto di limitare l’uso da remoto. Per Gemma 3 e versioni precedenti vale ancora questo. Chi legge una guida che dice „Gemma ha una licenza propria” sta leggendo una guida superata.
Qwen3.6-27B è sotto Apache 2.0 invariata, senza clausole aggiuntive — ed è al tempo stesso il modello più forte della sua classe dimensionale. Se dovessi consigliarne uno per una scheda da 24 GB, sarebbe questo.
gpt-oss-20b è anch’esso sotto Apache 2.0 ed è, secondo la scheda del modello, esplicitamente progettato per 16 GB — l’ingresso più comodo sulla scheda entry-level.
Cosa ci perdi
Perché questo non diventi pubblicità, ecco il prezzo onesto:
Velocità. Una scheda entry-level non è un centro dati. Con contesti lunghi e ragionamenti lunghi, aspetti.
Capacità. 37 contro 60 punti nell’indice non sono un errore di arrotondamento. Il tuo modello locale gestisce peggio i compiti difficili.
Manutenzione. Driver, quantizzazioni, aggiornamenti dei modelli, dipendenze rotte. È un lavoro che con un’API nessuno ti addebita, perché lo fa qualcun altro.
E una lacuna che non sono riuscito a colmare: nella documentazione ufficiale di Ollama e LM Studio non ho trovato alcuna indicazione sul fatto che i pesi dei modelli scaricati vengano verificati crittograficamente quanto alla loro provenienza. Per un file che esegui sul tuo computer, sarebbe un’informazione che avrei voluto avere.
La mia conclusione
Non comprare una scheda video per risparmiare soldi. Il calcolo quasi non torna mai, e chi ti dimostra il contrario ha abbellito o il tuo consumo o il prezzo della scheda.
Comprala se per te conta che certi testi non escano da casa tua — dati di clienti, dati di pazienti, manoscritti, contratti, tutto ciò per cui la domanda „dove si trova adesso?” ha bisogno di una risposta vera. Per questo, l’IA locale non è la soluzione più economica, ma l’unica soluzione pulita, perché a quel punto nessuna terza parte resta nella catena.
E se stai iniziando: comincia in piccolo. Una scheda da 16 GB, gpt-oss-20b oppure una Gemma 4 di dimensione media, e osserva onestamente per una settimana cosa usi davvero. Dopo saprai se la scheda da 24 GB vale la pena — meglio che indovinarlo prima.
Gli strumenti attorno a tutto questo sono nel mio indice di 137 strumenti IA, aggiornato costantemente; quale dei modelli commerciali sia adatto a cosa è nel confronto tra ChatGPT, Claude e Gemini.
Fonti
Tutte verificate il 24 luglio 2026. Prezzi, versioni dei modelli e licenze cambiano; i prezzi dell’hardware sono prezzi al dettaglio riferiti alla data di consultazione.
- Qwen3.6 · Gemma 4 · gpt-oss-20b — schede dei modelli e testi delle licenze
- Licenza Llama e condizioni di download — Meta
- Libreria dei modelli (dimensioni dei file per quantizzazione) · Note di rilascio v0.32.0 · Informativa sulla privacy — Ollama
- Documentazione (funzionamento offline, telemetria) — LM Studio
- Confronto sulla quantizzazione — llama.cpp
- Specifiche GeForce RTX 50 — NVIDIA
- Prezzi dell’elettricità per le famiglie — Ufficio federale tedesco di statistica (40,55 ct/kWh, secondo semestre 2025)
- Intelligence Index — Artificial Analysis · Classifica — LMArena
- Guida sull’intelligenza artificiale e la protezione dei dati — Conferenza tedesca per la protezione dei dati (DSK)
- AI Act: Regolamento (UE) 2024/1689, art. 2 comma 10 e comma 12
- Prezzi delle API: OpenAI · Google · Anthropic
Se qualcosa qui ti sembra superato o sbagliato: scrivimi.
Commenti
Accedi per commentare, mettere like e salvare. Accedi →
Ancora nessun commento. Scrivi il primo.