Intelligenza artificiale locale: sui tuoi server, sui tuoi documenti

Quando usi ChatGPT o un servizio simile, ogni domanda e ogni documento che carichi viaggia fino ai centri dati del fornitore. Per molte attività va benissimo. Per altre no: le cartelle dei pazienti, i fascicoli dei clienti di uno studio, le buste paga, le ricette e i disegni che fanno il valore di un'azienda.

On-premise vuol dire «nella tua sede»: il modello di intelligenza artificiale è installato su un computer che è tuo. Usiamo modelli aperti, che si possono scaricare e far girare senza chiedere il permesso a nessuno, e li colleghiamo ai tuoi documenti con regole precise su chi può vedere cosa. Non serve addestrarli: quando fai una domanda, il sistema cerca i documenti pertinenti e risponde partendo da lì, dicendoti da dove ha preso l'informazione.

Mediazione creditizia. Lo studio voleva che i documenti dei clienti non uscissero mai dall'ufficio. Abbiamo costruito una demo che legge buste paga e documenti di reddito e risponde sulle pratiche, su un solo Mac mini. Mettendo a confronto diversi lettori di testo locali, il risultato migliore l'ha dato quello già incluso nel sistema del Mac: nessun costo in più.

Software in sede. Abbiamo già installato parti dei nostri gestionali su computer nella sede dei clienti: per tenere i dati sanitari di un centro medico nello studio, o per leggere un gestionale che gira su un server interno. Si aggiornano da soli, ripartono da soli e li raggiungiamo con un accesso remoto ridotto al minimo e revocabile.

L'installazione locale risolve il trasferimento dei dati a fornitori esterni e fuori dall'Europa, che è il punto più delicato per sanità, studi professionali e segreti industriali. Non risolve da sola il resto: il GDPR chiede comunque una base giuridica per il trattamento, il registro dei trattamenti, accessi limitati per ruolo e, per i dati più delicati, una valutazione d'impatto. E il Regolamento europeo sull'intelligenza artificiale (AI Act) ha regole sue su trasparenza e uso responsabile, che valgono anche in locale. Ti aiutiamo a mettere in ordine tutto questo, insieme a chi segue la privacy per te.

Sui ragionamenti lunghi e complessi i grandi modelli in cloud restano più bravi; su domande, estrazione di dati, riassunti e smistamento dei documenti i modelli locali di oggi lavorano bene. L'hardware va tenuto acceso, aggiornato e con copie di riserva: è parte del nostro lavoro con il canone.