AI locale vs cloud: quale conviene alla tua PMI (costi, privacy, prestazioni)

C'è una domanda che prima o poi arriva sul tavolo di ogni impresa che inizia a usare l'AI sul serio. Di solito la fa il commercialista, o quel cliente grosso con l'ufficio acquisti pignolo: "ma questi dati... dove vanno esattamente?"

Ed eccola, la vera differenza tra AI cloud e AI locale. Non è una questione tecnica: è la risposta a quella domanda.

Se vuoi la regola breve prima del ragionamento, è questa: cloud per ciò che è generico e pubblico, locale per ciò che è ripetitivo e riservato. Una bozza di post per i social? Cloud, senza pensarci. Le registrazioni delle telefonate coi clienti, i documenti contabili, le dettature con dentro nomi e diagnosi? Locale. Il resto dell'articolo serve a capire dove passa il confine — e quanto costa stare da una parte o dall'altra.

Cosa significano davvero le due parole

AI cloud: il modello gira sui server di qualcun altro (OpenAI, Google, Microsoft...). Tu mandi i dati, loro tornano la risposta. Paghi a consumo o in abbonamento, e ogni richiesta è un piccolo viaggio di andata e ritorno dei tuoi contenuti.

AI locale: il modello gira su una macchina tua — il PC in ufficio, un server aziendale. I dati non escono mai. Nessun viaggio, nessun contratto di trattamento con terzi, nessun "dipende dalla policy del fornitore".

Fino a poco fa la scelta non esisteva: i modelli seri stavano solo nel cloud. Oggi non è più vero — modelli eccellenti per trascrizione, classificazione, estrazione dati e generazione di testo girano su hardware da ufficio, e questo cambia i termini della decisione.

Il capitolo costi: la curva che nessuno ti mostra

Il cloud vince sempre il primo mese: zero investimento, paghi due centesimi a richiesta, meraviglioso.

Poi l'uso cresce — perché se il progetto funziona, cresce. E il pay-per-use si comporta come un tassametro: il costo sale con l'uso, per sempre. Cento trascrizioni al giorno, ogni giorno, per anni: fai il conto. L'AI locale è l'opposto: paghi una volta l'hardware e il progetto (magari con un bando che ne copre metà), poi ogni utilizzo in più costa zero.

La regola pratica: uso occasionale o imprevedibile → cloud; processo quotidiano ad alto volume → il locale si ripaga, di solito entro il primo o secondo anno. E c'è un costo nascosto del cloud che si vede solo negli anni: il fornitore può cambiare prezzi, modello o condizioni quando vuole — il tassametro non è nemmeno tuo.

Il capitolo privacy: chi risponde alla domanda del commercialista

Torniamo alla domanda dell'inizio: "dove vanno i dati?".

Con l'AI cloud la risposta onesta è lunga: vanno sui server del fornitore, nel rispetto del suo contratto, delle sue policy di conservazione (che possono cambiare), dei suoi sub-fornitori (che non conosci), possibilmente in giurisdizioni extra-UE (da documentare, per il GDPR). Puoi lavorarci — le grandi aziende lo fanno, con uffici legali dedicati. Ma per una PMI è un fardello sproporzionato.

Con l'AI locale la risposta sta in una frase: "restano qui". Fine della discussione col commercialista, dell'audit del cliente grosso, del censimento dei sub-responsabili su quel flusso. Per chi tratta dati sanitari, legali o finanziari, questa frase da sola chiude la partita.

Il capitolo prestazioni: sfatiamo il mito

"Ma il cloud è più potente." Vero — e spesso irrilevante.

I modelli giganti del cloud vincono sui compiti da frontiera: ragionamenti complessi, conoscenza enciclopedica. Ma i compiti che una PMI automatizza davvero — trascrivere, classificare documenti, estrarre dati dalle fatture, generare testi su un dominio ristretto — non sono compiti da frontiera. Sono compiti specifici, e un modello locale ben scelto per il compito specifico li fa in modo eccellente, con due vantaggi che il cloud non pareggia: latenza zero (nessun viaggio di rete) e funzionamento anche senza connessione.

In NestD è il principio su cui costruiamo tutto, da QuadVoice (dettatura su GPU) in su: locale-first dove i dati sono sensibili, cloud dove non serve altro. Non è ideologia — è il criterio giusto applicato caso per caso.

La decisione in tre domande

1. I dati sono riservati? (clienti, salute, contratti, contabilità) → forte spinta verso il locale.
2. Il volume è quotidiano e destinato a crescere? → il locale si ripaga; l'occasionale resta bene nel cloud.
3. Il processo deve funzionare sempre, anche senza rete? → locale; se un'ora di attesa non è un problema, il cloud basta.

Tre "no" → parti col cloud, leggero. Anche un solo "sì" pesante → fatti fare i conti su una soluzione locale: spesso sono più piccoli di quel che pensi.

Domande frequenti

Serve un data center in azienda?

No. Per la maggior parte dei carichi PMI basta una workstation con una buona GPU — un investimento nell'ordine del migliaio di euro, non del capannone attrezzato. I bandi digitalizzazione spesso la coprono.

La qualità dei modelli locali è sufficiente?

Sul compito specifico, sì: trascrizione, estrazione, classificazione e generazione su dominio ristretto sono terreno dove i modelli locali moderni lavorano benissimo. Il divario col cloud resta solo sui ragionamenti da frontiera — che raramente sono ciò che una PMI automatizza.

Posso mescolare i due approcci?

È la scelta più intelligente, non un compromesso: locale per i flussi con dati sensibili e alto volume, cloud per il resto. L'importante è che sia una scelta fatta, non subita per default.

Da dove parto per capire cosa conviene a me?

Dall'elenco dei processi che vuoi automatizzare, con due colonne: quanto sono riservati i dati, quanto è frequente il compito. Con quella tabella davanti, la risposta si scrive quasi da sola — e un fornitore serio deve saperla argomentare numeri alla mano.