Sulla scrivania c’è un PDF riservato di dieci pagine e vogliamo farlo riassumere dall’intelligenza artificiale.
La procedura a cui ci siamo abituati è quasi automatica: apriamo ChatGPT, Claude o Gemini, carichiamo il documento e lasciamo che un’infrastruttura remota faccia il lavoro.
Ma per riassumere quelle dieci pagine serve davvero un data center?
Nel 2026, sempre più spesso, no.
Modelli di intelligenza artificiale ormai sempre più capaci possono funzionare direttamente sul nostro computer, senza spedire ogni prompt a un server remoto. Strumenti come Ollama, LM Studio e llama.cpp hanno inoltre reso l’AI locale molto più accessibile rispetto a pochi anni fa.
A questo punto il tradizionale confronto “AI locale contro cloud” rischia però di portarci fuori strada. La domanda che conta davvero è più pratica:
quando conviene far lavorare l’AI sul proprio computer e quando è più sensato affidarsi al cloud?
Dipende dal compito, dalla qualità che ci serve, dai dati che stiamo trattando e perfino da quanto tempo siamo disposti a perdere per configurare tutto.
Che cosa significa davvero AI locale
Un modello AI locale viene eseguito sul nostro dispositivo utilizzandone CPU, GPU, memoria e, nei casi supportati, gli acceleratori dedicati all’intelligenza artificiale.
Il modello viene scaricato sul computer e l’inferenza — il processo con cui interpreta il prompt e genera la risposta — avviene sulla macchina.
Con LM Studio, per esempio, è possibile scaricare un modello, conversare con esso e interrogare documenti tramite RAG. Se tutte le funzioni utilizzate rimangono locali, prompt e documenti possono essere elaborati senza uscire dal dispositivo. Ollama consente allo stesso modo di eseguire modelli direttamente sul computer.
Qui c’è però una distinzione importante: un modello locale può comunque usare Internet.
Possiamo collegarlo a una ricerca web, a un server MCP, a un database remoto o a un’altra API. Ollama offre inoltre sia modelli locali sia modelli eseguiti nel cloud.
Per valutare realmente la riservatezza di un sistema non basta quindi sapere dove gira il modello. Bisogna guardare l’intera catena e chiedersi dove finiscono i dati utilizzati dagli strumenti collegati.
Perché proprio adesso l’AI locale sta diventando interessante
Per anni eseguire un grande modello linguistico sul proprio computer è stato soprattutto un passatempo per appassionati disposti a mettere mano a terminale, driver e configurazioni.
La situazione è cambiata su tre fronti.
Il primo è il software. LM Studio offre ormai un’interfaccia grafica per cercare, scaricare e utilizzare i modelli. Ollama rende molto semplice avviarli e integrarli con altre applicazioni, mentre llama.cpp continua a essere uno dei progetti fondamentali per eseguire modelli quantizzati su hardware molto diverso. Su Apple Silicon, MLX e MLX LM sono progettati specificamente per sfruttare l’architettura dei Mac.
Anche i modelli sono diventati più adatti all’esecuzione personale.
OpenAI distribuisce gpt-oss-20b e gpt-oss-120b come modelli open-weight e indica, grazie alla quantizzazione MXFP4, circa 16 GB di memoria per il primo e 80 GB per il secondo.
Google ha progettato Gemma 4 12B affinché possa funzionare localmente anche su sistemi con 16 GB di VRAM o memoria unificata. Famiglie come Qwen comprendono invece modelli di dimensioni molto diverse, permettendo di scegliere un compromesso tra requisiti hardware e capacità.
Infine sta cambiando il computer stesso.
Il Mac mini M6 presentato da Apple nell’agosto 2026 integra acceleratori neurali nella GPU, due Neural Engine a 16 core e fino a 32 GB di memoria unificata. Il Mac Studio M5 Ultra sale invece fino a 512 GB di memoria unificata e 1,2 TB/s di banda.
Nel mondo PC, una GeForce RTX 5090 dispone di 32 GB di VRAM, mentre AMD sta proponendo sistemi Ryzen AI con grandi quantità di memoria condivisa.
Sono approcci molto differenti, ma raccontano la stessa evoluzione: eseguire un modello AI sul proprio computer non è più necessariamente un esperimento da laboratorio.
Quanta RAM serve? È solo metà della domanda
Quando si parla di AI locale, il primo numero che tutti guardano è la memoria.
Ha senso: se il modello non entra nella memoria disponibile, bisogna ridurne le dimensioni tramite quantizzazione, distribuire parte del lavoro altrove oppure scegliere un modello più piccolo.
La quantità di memoria richiesta varia con modello, quantizzazione, dimensione del contesto e software utilizzato. Riducendo la precisione numerica dei pesi si riesce a comprimere molto un LLM, accettando un possibile compromesso sulla qualità.
Per alcuni modelli, 16 GB rappresentano ormai un punto di ingresso realistico. Questo non garantisce però automaticamente una buona esperienza.
Un modello può entrare in memoria ed essere comunque troppo lento
Questo è uno degli aspetti più facili da sottovalutare.
Due computer capaci di caricare lo stesso modello possono restituire risposte a velocità molto diverse.
Contano la potenza della GPU, la banda di memoria, quanto del modello riesce a essere accelerato dalla GPU, la quantizzazione utilizzata, la lunghezza del contesto e la configurazione del software.
Per questo la domanda “ho abbastanza RAM?” dovrebbe essere seguita subito da una seconda:
“quanto velocemente riuscirà a generare una risposta?”
La velocità viene spesso espressa in token al secondo. Non esiste però una soglia universale che divida un sistema “veloce” da uno “lento”: dipende dal tipo di utilizzo. Aspettare qualche secondo per il riassunto di un documento può essere irrilevante; conversare con un assistente che genera il testo molto lentamente diventa invece frustrante.
La documentazione di llama.cpp mostra bene quanto l’offload sulla GPU e la configurazione possano modificare le prestazioni dello stesso modello.
È quindi meglio diffidare delle guide che scelgono un computer per l’AI guardando soltanto i gigabyte.
Perché Apple Silicon piace alla community dell’AI locale
Sui Mac CPU e GPU lavorano su un pool di memoria unificata. Questo permette alla GPU di accedere a quantità di memoria che, in un PC tradizionale con GPU dedicata, dipenderebbero principalmente dalla VRAM della scheda grafica.
È uno dei motivi per cui configurazioni Apple con molta memoria sono diventate interessanti per chi vuole caricare modelli di grandi dimensioni.
La banda di memoria conta anch’essa. Il Mac mini M6 arriva fino a 170 GB/s, mentre le configurazioni professionali salgono sensibilmente: il Mac Studio con M5 Ultra raggiunge 1,2 TB/s.
Sul fronte PC, NVIDIA dispone però di un ecosistema software estremamente maturo e GPU molto potenti, particolarmente interessanti quando il modello entra completamente nella VRAM disponibile.
AMD sta esplorando a sua volta architetture con grandi pool di memoria condivisa.
Il risultato è che confrontare Mac e PC usando soltanto “quanta RAM hanno” porta facilmente a conclusioni sbagliate. Bisogna considerare almeno modello, quantità e tipo di memoria, GPU, software e prestazioni richieste.
Per quali attività l’AI locale è già abbastanza buona?
Molte delle operazioni che affidiamo ogni giorno all’AI sono molto più semplici di quanto sembri.
Riassumere un contratto, classificare documenti, estrarre informazioni, cambiare il tono di una mail, tradurre un paragrafo, interrogare un archivio personale o produrre piccole porzioni di codice sono task relativamente delimitati.
In casi simili un buon modello locale può già offrire risultati soddisfacenti.
Prendiamo il PDF iniziale. Se un modello sul nostro computer riesce a riassumerlo correttamente in pochi secondi, senza caricare il documento su Internet e senza consumare crediti API, le capacità aggiuntive di un enorme modello cloud potrebbero semplicemente non servirci.
La qualità assoluta del modello conta meno della qualità necessaria per portare a termine quel preciso lavoro.
Quando il cloud continua ad avere un vantaggio
Aumentando la complessità, la situazione cambia.
Ricerca approfondita sul web, problemi ambigui, coding complesso, lunghi contesti, utilizzo simultaneo di numerosi strumenti, workflow agentici articolati e alcune forme di generazione multimediale continuano a beneficiare dei modelli e dell’infrastruttura disponibili nel cloud.
Va poi ricordato che “open-weight” non significa necessariamente “adatto a un notebook”.
Alcuni dei modelli aperti più performanti sono enormi e richiedono quantità di memoria incompatibili con un normale computer personale.
Il cloud possiede inoltre un vantaggio molto concreto: possiamo accedere per pochi minuti a risorse che non avrebbe alcun senso acquistare per tenerle sulla scrivania.
Per chi utilizza sporadicamente modelli molto grandi è un modello economico difficile da battere.
C’è anche un vantaggio meno spettacolare: aprire il browser e iniziare
L’AI locale è diventata molto più semplice, ma non è ancora trasparente quanto un servizio cloud.
Con ChatGPT, Claude o Gemini l’esperienza può iniziare pochi secondi dopo aver aperto il browser.
Con un modello locale bisogna almeno installare un’applicazione, scegliere un modello adatto all’hardware, scaricare file che possono occupare molti gigabyte e decidere quanta memoria o contesto utilizzare. Se qualcosa non funziona come previsto, entra in gioco anche un minimo di troubleshooting.
Per un appassionato può essere parte del divertimento.
Per chi vuole soltanto scrivere una mail o analizzare occasionalmente un documento, quel tempo ha un valore economico.
È un fattore da mettere sullo stesso piano di RAM, GPU e prezzo dell’abbonamento.
AI locale e privacy: il vantaggio c’è, ma dipende dalla configurazione
La possibilità di mantenere i dati sul dispositivo resta uno degli argomenti più convincenti a favore dell’AI locale.
Se modello e strumenti funzionano offline, possiamo elaborare codice proprietario, documenti aziendali, contratti o archivi personali senza inviarli a un provider esterno.
Appena colleghiamo una ricerca web, un servizio cloud o uno strumento remoto, però, una parte del flusso torna sulla rete.
Anche la sicurezza locale merita attenzione: malware, account compromessi o configurazioni errate non scompaiono solo perché il modello gira sulla nostra macchina.
L’AI locale offre quindi soprattutto maggiore controllo sul percorso dei dati, un vantaggio molto concreto quando sappiamo come è configurato il sistema.
E sul costo? “Locale” non vuol dire necessariamente gratis
Dopo aver acquistato l’hardware e scaricato un modello non dobbiamo necessariamente pagare ogni token prodotto.
Restano però altri costi:
hardware, energia, spazio su disco, manutenzione e tempo dedicato alla configurazione.
In azienda proprio quest’ultimo elemento può valere più della bolletta elettrica.
Il confronto sensato diventa quindi:
AI locale = hardware + energia + gestione + tempo
AI cloud = abbonamento/API + consumo + dipendenza dal servizio
Se abbiamo già un computer adeguato e svolgiamo ogni giorno migliaia di operazioni ripetitive, il locale può diventare economicamente molto interessante.
Per un utilizzo saltuario o imprevedibile, pagare soltanto quando ci serve una grande capacità di calcolo può essere molto più efficiente.
Locale, cloud o ibrido? Una matrice pratica
| Utilizzo | Locale | Cloud | Ibrido | Scelta più sensata |
|---|---|---|---|---|
| Riassumere documenti privati | 🟢 | 🟡 | 🟢 | Locale |
| Traduzioni quotidiane | 🟢 | 🟢 | 🟢 | Locale/ibrido |
| Scrittura quotidiana | 🟢 | 🟢 | 🟢 | Dipende dalla qualità richiesta |
| Coding semplice | 🟢 | 🟢 | 🟢 | Locale/ibrido |
| Coding complesso e agentico | 🟡 | 🟢 | 🟢 | Ibrido/cloud |
| Analizzare archivi riservati | 🟢 | 🟡 | 🟢 | Locale/RAG |
| Ricerca web aggiornata | 🟡 | 🟢 | 🟢 | Cloud/ibrido |
| Automazioni personali | 🟢 | 🟢 | 🟢 | Ibrido |
| Generazione di immagini e video | 🟡 | 🟢 | 🟢 | Dipende dall’hardware |
| Utilizzo senza Internet | 🟢 | 🔴 | 🟡 | Locale |
Un modello eseguito localmente può naturalmente utilizzare strumenti per cercare sul web. In quel momento, però, parte del sistema utilizza nuovamente servizi e connessioni esterne.
La matrice suggerisce un criterio abbastanza semplice: prima di inseguire il modello più potente disponibile, chiediamoci quale capacità serva davvero al task.
Il passaggio successivo potrebbe essere l’AI ibrida
Consideriamo un assistente che deve gestire diversi lavori durante la giornata.
Rinominare cinquanta documenti? Un piccolo modello locale potrebbe bastare.
Riassumere un PDF riservato? Stesso discorso.
Confrontare quel PDF con normative appena pubblicate online, consultare varie fonti e ragionare su eventuali incongruenze? Qui un modello cloud più potente può avere molto più senso.
Idealmente il processo diventerebbe:
TASK → modello locale → risultato sufficiente? → sì: risposta locale / no: cloud
C’è però una precisazione importante: per l’utente medio questo passaggio automatico non è ancora uno standard pronto all’uso.
LM Studio permette oggi di scegliere se utilizzare modelli locali, remoti o cloud. Ollama offre anch’esso modelli locali e cloud attraverso un’esperienza comune. Nella maggior parte dei casi, però, siamo ancora noi a scegliere quale utilizzare.
Esistono già esempi più avanzati.
Apple mette a disposizione degli sviluppatori un modello Foundation on-device e un modello server-side attraverso Private Cloud Compute. La stessa documentazione suggerisce di valutare prima se il modello locale soddisfa il caso d’uso e passare a PCC quando serve più contesto o capacità di ragionamento.
La ricerca sta cercando di automatizzare ancora di più questa decisione. IBM ha sperimentato un sistema capace di assegnare i compiti semplici a un piccolo LLM locale e trasferire quelli più impegnativi a un modello cloud, considerando qualità, latenza e costo.
Questi esperimenti mostrano una possibile evoluzione dell’AI personale: un assistente che non usa sempre la stessa infrastruttura, ma sceglie quella più appropriata al lavoro da svolgere.
Per ora, però, siamo ancora all’inizio.
Quindi, serve davvero comprare un computer per l’AI locale?
Se l’unica motivazione è “l’AI locale sarà il futuro”, probabilmente sarebbe prematuro.
Conviene partire dai propri compiti.
Chi usa soprattutto l’AI per ricerche complesse, coding avanzato, generazione multimediale o richieste occasionali troverà spesso nel cloud la soluzione più immediata.
Chi invece lavora frequentemente con documenti riservati, svolge molte attività ripetitive, vuole utilizzare l’AI senza Internet oppure costruire automazioni che funzionano continuamente, può ricavare molto più valore da un modello locale.
Prima di acquistare nuovo hardware vale quindi la pena fare un esperimento.
Se avete già un computer recente, installate un’applicazione come LM Studio oppure Ollama, scegliete un modello compatibile e affidategli un’attività reale che svolgete abitualmente.
Non un benchmark.
Non una domanda costruita apposta per metterlo alla prova.
Un lavoro vero.
Se lo svolge bene e con una velocità accettabile, avete trovato un’attività che può essere spostata in locale.
Per tutto il resto il cloud continuerà a essere disponibile.
Ed è forse questa la trasformazione più interessante dell’AI locale nel 2026: i modelli sui nostri computer non devono sostituire i giganteschi sistemi dei data center. È già abbastanza utile poter evitare di chiamarli ogni volta che il lavoro potrebbe essere svolto sulla scrivania.
Domande frequenti
Spesso sì. La possibilità concreta dipende soprattutto da memoria disponibile, GPU, sistema operativo e dimensioni del modello. Prima di acquistare nuovo hardware conviene provare un modello piccolo o medio compatibile con la macchina che già possediamo.
Non necessariamente. La memoria determina soprattutto quali modelli possiamo caricare; la velocità dipende anche dalla GPU, dalla banda di memoria, dalla quantizzazione, dall’offload, dalla context size e dal software utilizzato.
Sì. Esistono modelli progettati per funzionare entro questa fascia di memoria, anche se 16 GB non permettono di eseguire indifferentemente qualsiasi LLM. Il sistema operativo e le altre applicazioni consumano inoltre parte della memoria disponibile.
Non necessariamente. Applicazioni come LM Studio permettono di scaricare e utilizzare modelli tramite interfaccia grafica. Ollama rimane molto semplice ma può richiedere maggiore familiarità con strumenti tecnici per alcuni utilizzi avanzati.
Sì, se il modello e l’intera pipeline utilizzata funzionano localmente. Bisogna però controllare eventuali strumenti collegati, plugin, servizi web o API che potrebbero trasmettere parte dei dati.
Dipende soprattutto dai modelli che volete eseguire e dal budget. Apple Silicon è interessante per la memoria unificata; le GPU NVIDIA offrono prestazioni elevate e un ecosistema AI molto maturo; AMD propone a sua volta soluzioni con grandi quantità di memoria condivisa. Una configurazione ideale per un workload può essere poco conveniente per un altro.
In alcuni sistemi specializzati il concetto esiste già, ma non è ancora una funzione universale e trasparente per l’utente medio. Le piattaforme stanno rendendo sempre più semplice usare modelli locali e cloud insieme, mentre il routing automatico in base alla complessità del task è ancora un’area in piena evoluzione.
