L’IA si insinua sempre di più nel nostro lavoro e nella nostra vita quotidiana, e continuerà a farlo sempre di più.
L’uso dell’IA sta diventando sempre più comune, sia nei nostri interrogativi quotidiani sia nel nostro lavoro. La maggior parte degli strumenti utilizzati attualmente si trova tuttavia ospitata su server di terzi, da qualche parte lontano e fuori dal nostro controllo. Di fronte a questi problemi e a molti altri provocati dall’hosting di terzi, il self-hosting di modelli IA open source può essere una soluzione plausibile. È una proposta che vale la pena di essere studiata; la serietà di questa può essere attestata, ad esempio, dal Consiglio federale che sta per implementare la propria IA interna (self-host quindi) basata su un modello open-source (Llama 3) per aiutare nei compiti dell’amministrazione federale.
L’hosting localizzato dell’IA consiste nel far girare i modelli sulle proprie macchine fisiche. In questo caso, la macchina su cui vengono effettuati tutti i calcoli è fisica, in vostro possesso e sulla vostra rete.
I vantaggi
Quali sono i vantaggi dell’auto-hosting di un’IA rispetto ai servizi cloud proposti dalle aziende terze?
Innanzitutto, il fatto che i sistemi di IA siano localizzati fisicamente vicino al luogo finale di utilizzo (voi), o addirittura sulla stessa rete, significa che il segnale delle vostre richieste e delle risposte ha “meno distanza” da percorrere. La latenza è di conseguenza ridotta, il che crea sistemi di IA più rapidi da utilizzare.
Poi, con un server di vostra proprietà, i dati che fate pervenire all’IA—che si tratti di richieste, prompt, file di testo, video, immagini, ecc.—che le fornite restano sotto il vostro controllo. Ciò è particolarmente interessante se avete bisogno di trattare dati sensibili, o addirittura confidenziali. Questo vantaggio va anche preso in considerazione per la semplice ragione del rispetto della privacy e della confidenzialità. Anche se voi, o la vostra azienda, non manipolate dati sensibili, l’utilizzo di servizi ospitati su server in paesi con leggi più permissive sulla manipolazione dei dati degli utenti può comportare mancati rispetto della privacy. A ciò si aggiunge che i servizi di IA sono in grado di utilizzare i dati loro forniti per addestrare i loro modelli e, inoltre, affidando i propri dati a operatori terzi, ci si espone al rischio che questi attori terzi vengano piratati o che i loro dati fuoriescano. Mettendo in atto un sistema di IA sulle vostre infrastrutture, garantite che i vostri dati non escano, o al minimo, dalle vostre macchine, il che permette di mantenere un controllo completo su di essi. Inoltre, nel caso in cui fate passare dati dei clienti attraverso l’IA o utilizzate quest’ultima per trattare fascicoli che includono dati dei clienti, avete il mezzo di mantenere il controllo senza inviarli ad aziende terze, garantendo al contempo il rispetto della legislazione europea in materia. È comunque importante notare che i diversi servizi di IA includono, per alcuni, garanzie di sicurezza. La versione a pagamento di Microsoft Copilot, che ha accesso ai file sul vostro computer, garantisce che tutti i calcoli e i dati memorizzati lo siano su server Microsoft Azure in Europa.
La personalizzazione è un altro vantaggio di un’IA self-host. Con i servizi terzi, i modelli proposti sono rigidi e “definiti”. Non c’è davvero spazio per poter modellare un’IA a proprio piacimento. I modelli self-host permettono innanzitutto di poter regolare i parametri dei diversi modelli in modo più preciso, al fine di rendere le risposte più pertinenti e precise, ma anche affinché le risposte date siano più appropriate, specialmente per il vostro ambito aziendale. Ciò permette anche che i modelli possano essere addestrati sul vostro proprio insieme di dati, al fine di avere risposte ancora più precise negli ambiti specifici. Il fatto di fare self-host dell’IA dà la possibilità di dare accesso ai vostri dati aziendali, memorizzati sui vostri server, all’intelligenza artificiale, allo stesso modo in cui la versione a pagamento di Microsoft Copilot ha accesso ai vostri dati sul vostro computer. I vantaggi sono gli stessi: le risposte dell’IA diventano “personalizzate”; è in grado di rispondere a domande specifiche “interne” all’azienda le cui risposte sarebbero nei dati, file, documenti, rapporti… Ciò semplifica grandemente le operazioni e, da questo punto di vista, l’IA può davvero servire da assistente personale. La versione a pagamento di Microsoft ha una funzione simile per i dati memorizzati sui loro server Azure.
I punti negativi e i vincoli
Il primo vincolo per la messa in opera di questa soluzione è l’infrastruttura. Le IA hanno bisogno di una grande capacità di calcolo; questa capacità di calcolo è fornita da processori grafici (GPU). Il mercato delle GPU è praticamente monopolizzato da una sola azienda – nvidia, e questi ultimi sono gli unici fabbricanti dei processori grafici più potenti. Esistono tuttavia soluzioni che cercano di farli funzionare esclusivamente su processori centrali (CPU), per esempio LocalAI. Le GPU costano più o meno care, con un prezzo che varia con la potenza necessaria per far funzionare i vostri modelli, perché sì, ogni modello di IA ha una dimensione diversa, e anche un solo modello può essere proposto in diverse dimensioni. Un modello più grande—la dimensione essendo calcolata in numero di parametri—permette di avere risposte più precise e più rapide, nonché di trattare una maggiore quantità di dati. I prezzi attuali restano tuttavia accessibili soprattutto per le configurazioni di piccole e medie dimensioni; si può contare su una stima iniziale da 2000 a 5000 CHF. Il prezzo può poi salire effettivamente verso l’infinito. Tutta questa infrastruttura consuma ovviamente elettricità, il che può generare un certo costo.
Il secondo punto negativo è che, come con tutte le soluzioni self-hosted, il deployment di queste richiede una conoscenza tecnica dell’argomento. Infatti, per qualcuno che non se ne intende di server, connettività, ecc., questo tipo di compiti può rivelarsi arduo, ma per questo abbiamo una soluzione e possiamo consigliarvi e aiutarvi sull’argomento.
Di conseguenza, utilizzare un servizio cloud di IA può rivelarsi pratico, perché più semplice da usare e richiedente un investimento iniziale più basso. Per compiti che richiederebbero un uso raro dell’IA, il valore aggiunto di un’IA self-host sarebbe abbastanza minimo, o addirittura inesistente. È pertanto necessario fare un’analisi dei costi e definire gli obiettivi e l’ampiezza dell’utilizzo di questo tipo di sistema nella vostra azienda.
Esempio di strumento open-source per il self-host: LocalAI
LocalAI si posiziona come un sostituto gratuito e open source di OpenAI. Il suo scopo principale è offrire un’alternativa self-host alle API di OpenAI, in modo tale che la sostituzione nei vostri progetti di un’API di OpenAI con quella di LocalAI sia semplice ed efficace. LocalAI permette di far funzionare strumenti di IA, come gli LLM, i generatori di immagini e gli strumenti text-to-speech, direttamente sul vostro server. LocalAI si vanta anche di poter funzionare utilizzando solo CPU. Ciò permette di non aver bisogno di infrastrutture troppo potenti.
I modelli supportati da LocalAI sono numerosi; l’elenco completo può essere trovato su: https://localai.io/gallery.html . Include in particolare Gemini 3 di Google, Deepseek r1 e Llama 4 Scout di Meta (ex-Facebook). I tre modelli citati sono abbastanza potenti, in particolare Llama e Deepseek che rivaleggiano con i leader del settore, che sia ChatGPT (Deepseek è d’altronde più performante di ChatGPT su numerosi punti) o Gemini di Google.
Conclusione
In conclusione, il self-hosting, o auto-hosting, dell’IA è una soluzione interessante e presenta diversi vantaggi, sebbene la sua messa in opera sia accompagnata da alcune difficoltà e vincoli. Con questo sistema, la latenza è ridotta e i dati sono garantiti di restare in un ambiente chiuso. Inoltre, i modelli possono essere personalizzati, modellati sulle vostre esigenze. Tutti questi punti sono particolarmente interessanti per le società che operano in contesti specifici, quelle che nuotano tra file sensibili o in settori con un grande bisogno di automazione personalizzata. Esistono strumenti, come LocalAI, per mettere in atto questa alternativa. Tuttavia, è necessaria un’expertise tecnica per la messa in opera di queste soluzioni, il che può comportare costi aggiuntivi, e le infrastrutture richiedono un investimento iniziale più o meno consistente. In sintesi, l’IA è una tecnologia che è ancora ai suoi inizi. Il fatto di farne il self-host permette di accedere non solo a una soluzione di automazione nuova, ma anche a una capacità di sperimentare con queste nuove tecniche e di vedere la loro utilità nel vostro proprio ambito di competenza.
