Un sistema di intelligenza artificiale non è un progetto che viene consegnato e poi chiuso: è un prodotto che viene gestito. Ha costi variabili in base all'utilizzo, richiede una valutazione continua, si degrada se nessuno lo mantiene e deve evolversi quando cambiano l'azienda, i dati o il fornitore del modello. Pianificarlo come una campagna – con una voce di spesa, una data, un risultato da raggiungere – è il modo più sicuro per farlo fallire nel secondo anno.
Questo spiega parte dell'abbandono documentato dal mercato: Gartner prevede che oltre 401.000 progetti di intelligenza artificiale agentiva saranno cancellati entro la fine del 2027, e una delle tre ragioni citate è l'aumento dei costi. Non è che i costi stiano salendo alle stelle senza motivo; è che non erano stati previsti.
Partenza | Cosa è incluso | Frequenza |
|---|---|---|
Costruzione | Analisi, progettazione, integrazione, implementazione | Una volta |
Consumo | Costo per esecuzione del modello, con picchi e tentativi | Mensile, variabile |
Valutazione | Mantenere l'insieme dei casi di test ed eseguirlo | Continuare |
Operazione | Monitoraggio, incidenti, regolazioni | Mensile |
Evoluzione | Cambiamenti nel modello di business e nelle normative | Trimestrale |
La partenza di consumo È questo che rompe l'analogia con il software tradizionale. Un sistema ERP ha lo stesso costo sia che venga utilizzato molto che poco; un sistema con modelli linguistici, invece, no. E il consumo effettivo non rappresenta lo scenario ideale: include tentativi di ripetizione, contesti lunghi, picchi stagionali e query che non producono valore.
La partenza di valutazione È un aspetto che nessuno include nel budget, eppure determina se il sistema funzionerà ancora tra un anno. Mantenere aggiornato l'insieme dei casi con le relative risposte corrette ed eseguirli ogni volta che qualcosa cambia è un lavoro ricorrente, non un'attività da svolgere durante la fase di costruzione.
La domanda giusta in materia di budget non è quanto costa il progetto. È Quanto costa risolvere una causa?, rispetto a quanto costa oggi.
Tale calcolo è composto da tre elementi che devono essere separati:
Costo diretto per esecuzione. Cosa consuma il modello, compresi i tentativi falliti.
Costo della supervisione. Il tempo della persona che convalida, che non scompare: viene ridotto.
Il costo degli errori. Rilavorazioni, reclami, correzioni. È l'aspetto più trascurato, eppure determina la redditività del progetto.
Un sistema che risolve un caso per 0,40 € rispetto ai 3 € del processo manuale sembra un chiaro successo. Tuttavia, se 20% dei casi richiedono successive correzioni a 5 € ciascuna, il numero effettivo è diverso. Calcolare questo aspetto in anticipo è ciò che distingue un business case da una semplice aspettativa.
Questo calcolo contiene anche alcune buone notizie a livello strutturale: il costo dell'inferenza è diminuito drasticamente (Stanford HAI ha documentato una riduzione di oltre 280 volte per un sistema equivalente a GPT-3.5 tra la fine del 2022 e la fine del 2024), il che significa che un caso che oggi non è economicamente vantaggioso potrebbe diventarlo l'anno prossimo senza alcuno sforzo. Vale la pena documentarlo e rivederlo, piuttosto che scartarlo a priori.
Stimare i consumi utilizzando i dati del progetto pilota. Il progetto pilota utilizza casi selezionati, contesti brevi e volumi ridotti. La produzione moltiplica tutti e tre questi fattori. La regola generale è quella di estrapolare con un ampio margine e misurare i risultati a partire dal primo giorno effettivo.
Non aver previsto nel budget l'evoluzione del modello. I fornitori interrompono la produzione di nuove versioni, modificano i prezzi e il comportamento dei prodotti. Ciascuno di questi cambiamenti richiede una rivalutazione e, talvolta, degli aggiustamenti. In assenza di finanziamenti, il sistema rimane bloccato su una versione obsoleta finché non è più disponibile.
Trattare la manutenzione come un intervento occasionale. Un sistema con componenti probabilistiche richiede una revisione periodica anche in assenza di malfunzionamenti, poiché può degradarsi senza produrre errori visibili. Senza tale revisione, il degrado viene rilevato dal cliente.
Il formato che funziona non è un unico budget, ma tre decisioni successive con punti di uscita:
Presentare fin da subito i tre incontri cambia l'approccio al dialogo all'interno del comitato. Un direttore finanziario è molto più propenso ad accettare una spesa ricorrente pianificata piuttosto che una sorpresa nel secondo anno.
Il nostro formato di prova di concetto di quattro settimane si adatta perfettamente alla prima fase: tempi brevi, ambito limitato e una decisione informata alla fine, come spieghiamo in il purgatorio del pilota
Prima di approvare l'investimento, un'unica domanda guida la discussione: Qual è il costo totale per il terzo anno, comprensivo di consumo, valutazione, funzionamento ed evoluzione?
Se un progetto ha solo una cifra relativa al primo anno, non è ancora stato inserito nel budget: è appena iniziato. E i progetti avviati senza un piano operativo sono proprio quelli che compaiono nelle statistiche di abbandono.
Con cinque componenti: costruzione (una tantum), consumo per esecuzione del modello (mensile e variabile), valutazione continua delle prestazioni, gestione e monitoraggio e adattamento ai cambiamenti di business, modello o normative. Prevedere un budget solo per la costruzione garantisce problemi nel secondo anno.
Il costo per caso risolto, rispetto al costo del processo attuale. Questo dovrebbe includere il consumo diretto di risorse per i tentativi, il tempo di supervisione umana che non scompare ma viene ridotto e il costo degli errori: rilavorazioni, reclami e correzioni.
Poiché le stime si basano su dati pilota, che utilizzano casi selezionati, contesti brevi e volumi ridotti, Gartner cita l'aumento dei costi come una delle tre ragioni per cui prevede che oltre 401.000 progetti di intelligenza artificiale agentiva saranno cancellati entro la fine del 2027.
Valutazione continua: mantenere aggiornato l'insieme dei casi di test con le relative risposte corrette ed eseguirli ogni volta che il modello, il prompt o la configurazione cambiano. Si tratta di un lavoro ricorrente che determina se il sistema funzionerà ancora tra un anno.
Non necessariamente. Secondo lo Stanford HAI, il costo dell'inferenza è diminuito di oltre 280 volte tra la fine del 2022 e la fine del 2024, quindi i casi che oggi sono irrealizzabili potrebbero diventarlo l'anno prossimo senza alcuna modifica. Vale la pena registrare il calcolo e rivederlo periodicamente.
In tre decisioni successive con punti di uscita: un'esplorazione di quattro settimane con budget e soglia decisionale definiti, una costruzione a portata limitata con progettazione e tracciabilità complete dei permessi e una voce operativa annuale ricorrente.
Sai quanto costerà il tuo sistema di intelligenza artificiale al terzo anno? Calcoliamo il costo unitario, il consumo estrapolato e le spese operative prima che tu li scopra durante la revisione del budget. Parliamone →
Español Español 
English
Français
العربية
Português
Deutsch
Italiano
