Se cerchi «AI in locale» trovi guide per farla girare sul tuo computer. In azienda la domanda è un'altra: cosa serve per far lavorare un'AI sui documenti dell'ufficio, con più persone, senza che niente esca dalla rete. Qui c'è l'elenco, senza comandi da copiare: macchine, chi le tiene, permessi, aggiornamenti e copie.

«In locale» in azienda non è «sul mio PC»

Un programma sul PC serve una persona, con i suoi file. In azienda l'assistente serve l'amministrazione, l'ufficio legale, le vendite: persone diverse, documenti diversi, permessi diversi. Serve un server nella rete, un indirizzo a cui tutti si collegano, un elenco di chi può vedere cosa e qualcuno che se ne occupi. È la differenza tra uno strumento personale e un servizio interno.

Le macchine: una scheda grafica, non un data center

I modelli di linguaggio girano su schede grafiche (GPU), e la misura che conta è la memoria della scheda. Gli ordini di grandezza li danno i produttori dei modelli. OpenAI, per i suoi modelli aperti gpt-oss, scrive che la versione grande sta in una sola scheda da 80 GB e che la versione piccola gira in 16 GB di memoria. Meta pubblica Llama 3.1 in tre taglie, con l'italiano tra le lingue supportate.

Per un ufficio vuol dire un server con una o più schede, in un locale chiuso a chiave, con la corrente protetta e la rete separata. Non un data center. Se non vuoi tenerlo in sede, lo stesso server si noleggia dedicato in un data center italiano: cambia la stanza, non il principio.

ServeNon serve
Un server con scheda grafica nella tua rete.Un data center tuo.
Modelli aperti già addestrati, scelti e aggiornati da chi se ne intende.Addestrare un modello sui tuoi dati. I documenti si cercano al momento della domanda, non si insegnano al modello.
Qualcuno che tiene la macchina: aggiornamenti, controllo, copie.Un reparto di ricerca sull'AI.
Permessi per persona e per cartella.Un assistente unico che vede tutto di tutti.
Una copia di documenti, indice e registri, con il ripristino provato.Una copia «da qualche parte» mai provata.
Una connessione per aggiornamenti e assistenza.Il server esposto su internet.

Chi tiene le macchine

Un server in sede non si tiene da solo. Qualcuno deve aggiornare sistema e modelli, controllare che risponda, fare le copie e provare che si ripristinino. Il GDPR chiede proprio questo: misure che assicurino riservatezza, integrità, disponibilità e resilienza dei sistemi, la capacità di ripristinare in fretta i dati dopo un incidente e una procedura per provare le misure con regolarità (articolo 32). Per i soggetti coperti dalla direttiva NIS2 l'elenco minimo comprende continuità operativa con backup e ripristino, sicurezza dei fornitori, controllo degli accessi e autenticazione a più fattori (articolo 21).

Le strade sono tre: il tuo IT, un fornitore esterno, oppure chi ti fornisce l'AI. Con l'AI privata di Wosnic i modelli aperti li scegliamo e li aggiorniamo noi, sia sul server in sede sia su quello a noleggio. In sede, il server resta nella tua rete.

Permessi: ognuno vede i suoi documenti

È il punto più trascurato. Un assistente che vede tutte le cartelle risponde a chiunque con qualunque cosa: le buste paga a chi chiede del listino. Il GDPR chiede che i dati siano trattati con un'adeguata sicurezza, anche contro gli accessi non autorizzati (articolo 5), e che le impostazioni predefinite limitino il trattamento al necessario (articolo 25).

In pratica: un assistente per ufficio, documenti per cartella, persone con un accesso proprio, e un registro che dice chi ha chiesto cosa e quando. Vale anche per la memoria dell'assistente, cioè quello che conserva delle conversazioni precedenti: è un dato come gli altri e va deciso chi lo vede.

Aggiornamenti dei modelli

I modelli aperti cambiano spesso. Un modello nuovo può rispondere meglio o peggio sui tuoi documenti: va provato prima di cambiarlo, con le stesse domande di controllo, tenendo il vecchio finché il nuovo non regge. È un lavoro che qualcuno deve fare con un metodo, non un aggiornamento automatico.

Copie e ripristino

I documenti li hai già nel gestionale. Quello che aggiungi con l'AI è l'indice che serve a cercarli e i registri delle conversazioni: contengono pezzi dei documenti e vanno copiati e protetti allo stesso modo. La copia sta fuori dal server, in un'altra stanza o in un data center in Italia, e il ripristino si prova a calendario. Un backup mai provato è un'ipotesi.

Cinque domande a chi te la propone

  1. Dove sta il server, chi ha le chiavi del locale e chi ha l'accesso amministrativo?
  2. Chi aggiorna sistema e modelli, con che frequenza, e come mi avvisa prima di cambiare modello?
  3. Come si impostano i permessi: per persona, per ufficio, per cartella?
  4. Cosa viene copiato, dove, e quando è stato provato l'ultimo ripristino?
  5. Cosa passa da internet: solo aggiornamenti e assistenza, oppure anche le domande e i documenti?

Dei modelli aperti e delle schede grafiche abbiamo scritto in LLM privati e open source. Come mettiamo tutto questo nella tua rete o in un data center italiano: Come la installiamo: in sede o a noleggio in Italia →. Gli assistenti si collegano a calendario, CRM e gestionale; se vuoi capire cosa serve, raccontaci il tuo caso.

Domande frequenti

Serve per forza una scheda grafica?

Sì, per rispondere in tempi utili. Un modello piccolo gira in 16 GB di memoria; per più persone insieme e documenti lunghi si usano schede da data center, come quella da 80 GB che OpenAI indica per il suo modello grande.

Posso noleggiare invece di comprare?

Sì: un server dedicato in un data center italiano fa lo stesso lavoro, senza la stanza e la corrente da gestire. Il Data Act prevede che tu possa passare in seguito da un fornitore cloud a un'infrastruttura locale (articolo 23).

Funziona senza internet?

In sede l'assistente risponde dalla tua rete, senza mandare fuori domande o documenti. Aggiornamenti e assistenza passano comunque da una connessione, e per il server a noleggio o lo spazio condiviso la connessione serve per usarlo.

Fonti