AI in cloud o server propri: cosa conviene davvero

Scegliere tra modelli AI in cloud e server propri assomiglia alla scelta tra noleggiare una supercar con autista e comprare un’officina per costruirsi l’auto in casa. Con le API dei grandi provider hai l’intelligenza migliore sul mercato senza pensare alla manutenzione. Con i server interni hai il controllo totale dei dati, ma ti carichi addosso costi e complessità che quasi nessuna azienda ha davvero bisogno di sostenere.

C’è un secondo modo di vederla, che parla la lingua di chi fa industria. L’energia costa cara, ma conviene pagare la bolletta o costruirsi una centralina in casa? È la differenza tra collegarsi alla rete elettrica nazionale e installare un generatore industriale nel seminterrato. Con la rete attacchi la spina e la corrente c’è, paghi i chilowattora che consumi, e quando la centrale si aggiorna alla tecnologia di ultima generazione tu ne benefici gratis lo stesso giorno. Con il generatore compri subito la macchina, la mantieni anche a stabilimento chiuso, e il giorno in cui esce un modello che consuma la metà e rende il doppio il tuo è già da rottamare. Se poi ti serve illuminare uno stadio da un momento all’altro, la rete ti dà tutta la potenza che vuoi, mentre il generatore va in blocco finché non ne compri un secondo. I modelli AI in cloud e on-premise si comportano esattamente così.

La tesi di questo articolo, numeri e fonti alla mano, è semplice: per la stragrande maggioranza delle aziende italiane i modelli in cloud sono la scelta vincente. Vediamo perché, e quando invece l’on-premise ha senso.

Il confronto, in una tabella

1. Il costo reale, non il prezzo del cartellino

Chi spinge per i server propri di solito calcola solo il costo iniziale delle macchine, e ignora tutto il resto: le schede grafiche dedicate all’AI costano decine di migliaia di euro l’una, a cui si aggiungono bollette elettriche, raffreddamento, gli stipendi di un team DevOps specializzato e la svalutazione dell’hardware. È il TCO, il costo totale di possesso, a raccontare la verità.

E la verità è che il self-hosting ripaga solo a volumi enormi e costanti. Nell’analisi di Andreessen Horowitz sulle scelte di acquisto delle aziende, il 72% usa i modelli via API, e oltre la metà di queste tramite il proprio cloud provider; ospitare in casa diventa conveniente solo su carichi ad altissimo volume, nell’ordine di oltre 100 milioni di token al giorno (a16z, 2024). Sotto quella soglia, il cloud costa meno una volta contati il tempo di GPU inattiva, l’infrastruttura e le ore di ingegneria.

Il cloud ribalta la logica: zero costi fissi, paghi solo quello che consumi. Un investimento che segue i ricavi, invece di precederli di un anno.

2. La velocità di innovazione, e l’obsolescenza

Il ritmo di miglioramento dei modelli è impressionante. Secondo l’AI Index 2025 di Stanford, in un solo anno i punteggi su benchmark difficili come MMMU, GPQA e SWE-bench sono cresciuti rispettivamente di 18,8, 48,9 e 67,3 punti percentuali (Stanford HAI, 2025).

Nel cloud usi il modello più intelligente disponibile con una riga di codice, il giorno stesso del rilascio. In casa, ogni nuovo modello vai a scaricarlo, ottimizzarlo e testarlo a mano, mentre l’hardware che hai comprato invecchia nel giro di 18-24 mesi.

Qui va detta anche l’altra faccia, per onestà. Lo stesso rapporto di Stanford mostra che i modelli open-weight stanno recuperando in fretta: il divario tra il miglior modello aperto e il miglior modello chiuso su Chatbot Arena si è ridotto da circa 8 punti a inizio 2024 a circa 2 punti un anno dopo. Ottima notizia per chi self-hosta, ma il quadro economico non cambia: sui compiti più complessi i modelli di frontiera restano avanti, e il rischio peggiore dell’on-premise resta sempre lo stesso, restare bloccati con una tecnologia che il mercato ha già superato.

3. La sicurezza contrattuale, cioè la privacy già risolta

L’obiezione più comune contro il cloud è la privacy. Nella pratica, per la quasi totalità delle aziende è già risolta dai contratti enterprise.

OpenAI dichiara che i dati inviati via API e dai piani business non vengono usati per addestrare i modelli, che la piattaforma è certificata SOC 2 Type 2 e ISO 27001, con retention massima di 30 giorni e possibilità di azzerarla per gli endpoint idonei (OpenAI, Enterprise privacy). Anthropic, con i termini commerciali, tratta l’azienda come titolare del dato e sé stessa come responsabile del trattamento (DPA ex art. 28 GDPR), non addestra i modelli sui contenuti dei clienti commerciali ed è certificata ISO 42001 (Anthropic, Privacy Center).

Tradotto: certificazioni riconosciute, clausole che vietano l’uso dei dati per l’addestramento, un DPA a norma e, dove serve, residenza dei dati in Europa. Requisiti che coprono la stragrande maggioranza dei bisogni di compliance aziendali, senza comprare una sala server.

Quando i server propri hanno senso davvero

L’on-premise resta una buona scelta, ma per pochi. Ha senso soprattutto in tre situazioni:

• Riservatezza estrema: difesa, intelligence, alcune strutture sanitarie o dati talmente sensibili da non poter uscire dalla rete locale per obbligo normativo.
• Volumi giganteschi e costanti: quando una GPU ben saturata, tutto il giorno tutti i giorni, batte davvero il costo a consumo dell’API.
• Vincoli normativi specifici che impongono l’isolamento fisico dell’infrastruttura.

E anche in questi casi la risposta migliore è spesso ibrida: il cloud per il grosso del lavoro, l’on-premise solo per il pezzo davvero critico.

In sintesi, per chi decide

Per la stragrande maggioranza delle aziende, la flessibilità e la potenza del cloud restano l’unico modo per innovare in fretta senza restare bloccati con tecnologia già vecchia domani. E si parte sempre dal processo da migliorare, prima ancora che dall’infrastruttura da comprare: un solo caso d’uso, in cloud, con una metrica chiara, e una decisione presa sui numeri dopo poche settimane.

La domanda da girare al cliente, alla fine, è concreta: conviene pagare la bolletta per avere sempre nella presa l’energia più potente del pianeta, oppure spendere un patrimonio oggi per una centralina in casa che i vostri tecnici devono gestire e che tra due anni sarà da rottamare? Per quasi tutte le aziende la risposta è la prima.

È esattamente così che lavoriamo quando costruiamo agenti IA dentro i processi di un’azienda. Se vuoi capire da dove partire nel tuo caso, facciamo due chiacchiere: mezz’ora, senza pitch.

Fonti

• Stanford HAI, 2025 AI Index Report: hai.stanford.edu/ai-index/2025-ai-index-report
• Andreessen Horowitz, 16 Changes to the Way Enterprises Are Building and Buying Generative AI (2024): a16z.com/generative-ai-enterprise-2024
• OpenAI, Enterprise privacy: openai.com/enterprise-privacy
• Anthropic, Privacy Center (titolare e responsabile del trattamento): privacy.claude.com