Intelligenza Artificiale locale: la guida pratica per le PMI
In questo articolo
L'intelligenza artificiale locale consiste nell'eseguire modelli linguistici (LLM) direttamente sul proprio computer o server aziendale, senza inviare dati a servizi cloud esterni. Grazie a piattaforme open-source come Ollama, avviare un modello AI capace sul proprio hardware richiede oggi pochi minuti e conoscenze tecniche minime.
Per una PMI italiana, non è solo una scelta tecnica: è anche una leva di controllo su dati e costi che vale la pena valutare accanto agli strumenti cloud che probabilmente già usi.
Cos'è l'AI locale e perché conviene a una PMI
Quando usi ChatGPT, Claude o Gemini nella loro versione standard, ogni messaggio che scrivi viaggia verso i server del fornitore. Con l'AI locale il modello gira interamente sul tuo dispositivo: nessun dato esce dall'azienda, nessun abbonamento, nessuna connessione internet necessaria per funzionare.
Questo approccio è diventato accessibile solo di recente perché i modelli "edge", pensati per girare su hardware di fascia consumer, sono migliorati moltissimo. Un modello come Ministral 3B di Mistral AI offre capacità linguistiche solide richiedendo risorse minime, e tecniche come la quantizzazione (che comprime i pesi del modello fino a 4-bit) riducono drasticamente memoria necessaria e tempi di calcolo senza una perdita di qualità significativa.
Privacy, compliance e indipendenza: i tre vantaggi chiave
Privacy dei dati e sicurezza
Il vantaggio principale è il controllo: un modello eseguito localmente non invia mai le tue informazioni a server esterni e non le usa per addestramento di terzi. Per aziende che gestiscono documenti riservati — contratti, dati clienti, informazioni finanziarie — questo elimina alla radice il rischio di esposizione dei dati verso l'esterno.
Questo aspetto non è solo una questione di sicurezza tecnica, ma anche di conformità normativa. Le PMI italiane sono oggi tenute a rispettare gli obblighi dell'AI Act su formazione, trasparenza e gestione del rischio quando usano strumenti di intelligenza artificiale in azienda: mantenere i dati on-premise semplifica notevolmente questa gestione, perché riduce il numero di soggetti terzi coinvolti nel trattamento. Se non hai ancora mappato gli obblighi che ti riguardano, li trovi nella nostra guida pratica all'AI Act per le PMIPMI.
Funzionamento offline e indipendenza dal fornitore
Affidarsi solo al cloud significa essere soggetti a interruzioni del servizio, cambi di prezzo o modifiche di policy decise da altri. Un modello locale funziona anche senza connessione internet, un requisito importante per flussi di lavoro mission-critical o per sedi con connettività limitata.
Efficienza e azzeramento dei costi a consumo
Il software Ollama e la maggior parte dei modelli open-weight sono gratuiti e riutilizzabili senza limiti. L'unico investimento è l'hardware che già possiedi o che acquisti una volta sola: nessun costo per token, nessun abbonamento mensile che scala con l'uso del team.
AI locale vs AI cloud: quando scegliere cosa
Le due soluzioni non si escludono a vicenda: nella maggior parte dei casi le aziende finiscono per usarle in parallelo, a seconda del compito.
| Criterio | AI Locale (Ollama) | AI Cloud (ChatGPT/Claude via API) |
|---|---|---|
| Privacy dei dati | Massima: nulla esce dall'azienda | Dipende dal fornitore e dal piano contrattuale |
| Costi | Solo hardware, nessun costo a consumo | Costo per token, scalabile ma ricorrente |
| Qualità/potenza del modello | Buona su modelli edge, inferiore ai top di gamma cloud | Accesso ai modelli più avanzati disponibili |
| Funzionamento offline | Sì | No, richiede connessione |
| Manutenzione | A carico dell'azienda (hardware, aggiornamenti) | Gestita dal fornitore |
| Scenario ideale | Documenti riservati, uso ripetitivo ad alto volume, compliance stringente | Compiti complessi, creatività, picchi di carico occasionali |
Come iniziare: la guida pratica a Ollama
Che cos'è Ollama
Ollama è il framework di riferimento per l'ecosistema dell'AI localelocale. Supporta macOS, Linux e Windows e offre un'interfaccia a riga di comando (CLI) intuitiva per scaricare e interrogare i modelli.
Requisiti di sistema
Per un'esperienza fluida servono indicativamente:
- 8 GB di RAM per i modelli più compatti (circa 7 miliardi di parametri);
- 16 GB di RAM per modelli di taglia media;
- 32 GB di RAM per modelli più complessi.
Una GPU dedicata migliora sensibilmente i tempi di risposta, ma l'esecuzione via CPU è pienamente supportata: non serve hardware da data center per iniziare.
Eseguire il primo modello
1. Scarica Ollama dal sito ufficiale, nella versione compatibile con il tuo sistema operativo.
2. Apri il terminale e digita un comando come `ollama run llama3.2`.
3. Il framework scarica il modello e avvia una sessione interattiva in cui puoi iniziare subito a conversare con l'AI.
Casi d'uso pratici per le aziende
Interfacce web simili a ChatGPT
Non sei obbligato a usare solo il terminale. Open WebUI si collega a Ollama tramite Docker e offre una dashboard visiva con cronologia chat e gestione dei prompt, per un'esperienza vicina a quella di ChatGPT ma con i dati che restano in azienda.
RAG e analisi documentale
L'applicazione più utile per una PMI è la RAG (Retrieval-Augmented Generation)Generation): con framework come LangChain puoi far leggere all'AI i tuoi PDF aziendali o documenti complessi e ottenere risposte basate esclusivamente sui tuoi testi, senza alcun dato che lascia il perimetro aziendale.
Integrazione nelle app aziendali
Se hai già software che usa modelli cloud, il passaggio è indolore: l'API di Ollama è nativamente compatibile con quella di OpenAI. Basta sostituire l'endpoint del server per indirizzare le tue app verso il modello locale, azzerando i costi sui token. I modelli moderni supportano anche il tool callingcalling, cioè possono eseguire funzioni autonome come cercare informazioni o scrivere codice per risolvere problemi specifici.
Quali modelli scegliere
Attraverso Ollama si accede a un'ampia libreria di modelli open-weight, tra cui Llama 3.2 di Meta, Gemma 2 di Google e i modelli di Mistral AI. Sono disponibili anche modelli multimodali come LLaVA, capaci di analizzare immagini oltre che testo. La scelta dipende dal caso d'uso: per compiti generali un modello da 7-8 miliardi di parametri è un buon punto di partenza; per RAG su documenti tecnici conviene testare più modelli e confrontare la qualità delle risposte sui tuoi dati reali.
Domande frequenti sull'AI locale
L'intelligenza artificiale locale ha dei costi? No: il software Ollama e la maggior parte dei modelli open-source sono gratuiti e utilizzabili per sempre. L'unico investimento riguarda l'hardware.
Posso automatizzare compiti con l'AI locale? Sì: puoi creare "Modelfile" per dare istruzioni permanenti ai tuoi agenti (tono di voce, comportamento) o scrivere script che interrogano il modello via riga di comando per analizzare testi, generare report o estrarre dati strutturati.
L'AI locale è adatta a un'azienda che deve rispettare l'AI Act? Può aiutare a ridurre il rischio, perché i dati non transitano su server terzi, ma non esenta automaticamente dagli obblighi di AI Literacy, trasparenza e mappatura degli usi previsti dalla normativa. Per il quadro completo degli obblighi, consulta la nostra guida all'AI Act per le PMIPMI.
Quali modelli posso eseguire sul mio computer? Tra i più diffusi: Llama 3.2 (Meta), Gemma 2 (Google), i modelli di Mistral AI e modelli multimodali come LLaVA, capaci di leggere e analizzare immagini.
Portare l'AI locale in azienda richiede scelte tecniche (hardware, modelli, integrazione) che vanno calibrate sul tuo caso specifico: non è una decisione da prendere per default sostituendo il cloud, ma una possibilità in più da valutare accanto agli strumenti che già usi.
Managing Partner