Quanta autonomia dare a un agente IA: dove mettere l'umano nel loop

La domanda arriva spesso subito dopo il go-live: “quanto lo lasciamo decidere da solo, ‘sto agente?”

È la domanda giusta. Ma la maggior parte dei team la risolve male, ai due estremi. O danno all’agente autonomia zero (e allora l’umano approva tutto, e il risparmio di tempo svanisce). O gli danno autonomia totale (e prima o poi manda una cosa sbagliata a un cliente o autorizza un pagamento che non doveva).

La risposta operativa sta nel mezzo, ma non a caso. Si progetta.

In breve:

• La supervisione umana (human-in-the-loop) serve nei pochi punti ad alto rischio o irreversibili, NON ovunque. Se l’umano approva il 100% degli output, hai ricostruito il lavoro manuale.
• Decidi dove mettere il checkpoint con due assi: reversibilità e impatto. Reversibile + basso impatto → autonomia. Irreversibile o alto impatto → approval gate umano.
• L’AI Act (art. 14) impone supervisione umana effettiva solo ai sistemi ad alto rischio (es. recruitment); per il resto è buona pratica, non obbligo.
• Un buon design lascia passare in autonomia l’80-90% dei casi standard e ferma solo eccezioni e anomalie.
• Con Rainplan gestiamo centinaia di parcel e approvazioni multi-stakeholder in autonomia, con l’umano posizionato solo sul gate decisionale finale.

Il vero costo di un checkpoint mal posizionato

Ogni checkpoint umano è una tassa sul throughput. Non è gratis. Se un umano deve guardare ogni output prima che parta, hai due problemi: hai rimesso un collo di bottiglia umano nel processo, e l’umano si abitua a cliccare “approva” senza leggere (il cosiddetto rubber-stamping, che è peggio di nessuna supervisione perché ti dà l’illusione del controllo).

Quindi la regola numero uno: metti l’umano dove il suo giudizio cambia davvero l’esito, non dove ti fa sentire tranquillo.

La matrice: reversibilità × impatto

Usiamo due assi per decidere ogni singolo passo di un workflow.

Reversibilità: se l’azione va storta, quanto costa annullarla? Aggiornare un tag nel CRM è reversibile in 10 secondi. Inviare una mail a 400 clienti no. Autorizzare un bonifico no.

Impatto: chi tocca l’errore? Un dato interno sbagliato è fastidio operativo. Una decisione sbagliata su una persona (un candidato scartato ingiustamente) o su un cliente è danno reale, e spesso reputazionale o legale.

Da qui i quattro quadranti:

• Reversibile + basso impatto (bozze, tag, enrichment, classificazione): autonomia piena, l’agente esegue e logga.
• Reversibile + alto impatto (report che va al management, scoring interno): autonomia con notifica, un umano lo vede ma non deve pre-approvarlo.
• Irreversibile + basso impatto (archiviazione, dedupe): autonomia con soglia, l’agente ferma solo i casi ambigui.
• Irreversibile + alto impatto (invio a cliente, pagamento, decisione su persona): approval gate umano obbligatorio.

È una tabella che compiliamo insieme al cliente in fase di assessment, riga per riga sul workflow reale. Non è filosofia: è dove finisce il confine tra ciò che l’agente esegue da solo e ciò che aspetta una firma.

Un caso concreto: approvazioni multi-stakeholder in Rainplan

Rainplan gestisce stormwater management: centinaia di parcel, ognuno con più stakeholder che devono approvare. Il tipo di processo dove la tentazione è “automatizziamo tutto” e poi ti ritrovi con approvazioni sbagliate irreversibili.

La scelta di design: l’agente fa in autonomia tutto ciò che è reversibile e a basso impatto, capture dei parcel, enrichment dei dati, preparazione dei dossier, routing verso lo stakeholder giusto. Centinaia di parcel gestiti senza intervento umano.

Ma il gate decisionale finale, l’approvazione che fa scattare effetti sul mondo reale, resta umano. Non perché l’agente non saprebbe deciderlo, ma perché è irreversibile e coinvolge più parti. Lì un umano firma, sempre. E firma su un dossier già pronto, non su un foglio bianco: per questo il risparmio di tempo resta enorme anche col checkpoint attivo.

Questo è il punto che i team sbagliano più spesso: il checkpoint umano non annulla il risparmio se l’agente arriva al gate con il lavoro già fatto. L’umano decide, non compila.

Cosa dice l’AI Act (senza allarmismi)

L’art. 14 del Regolamento europeo IA impone supervisione umana effettiva ai sistemi ad alto rischio. Per una PMI questo tipicamente significa recruitment e scoring su persone. Per il resto, agenti su finance, support interno, sales, l’obbligo diretto è più leggero.

Ma “più leggero” non vuol dire “niente”. Anche fuori dall’alto rischio, un agente su customer support che risponde a un cliente o un agente finance che tocca importi vuole comunque un audit log e un gate sui casi critici. Non per compliance: per accountability. Se un giorno devi spiegare “perché l’agente ha fatto X”, il log e il punto di supervisione sono la tua risposta. Approfondiamo i livelli di rischio nella nostra guida all’AI Act.

Quando NON serve un checkpoint

Te lo dico chiaro, perché il rischio opposto è reale:

• Task ripetitivo, reversibile, interno (classificare ticket, taggare lead, estrarre dati da PDF): mettere un umano ad approvare è spreco puro. Logga e vai.
• Volume alto + errore poco costoso: se correggere un errore costa meno che approvare ogni caso, lascia correre l’agente e correggi a valle.
• Quando l’umano non ha contesto per decidere meglio dell’agente: se il tuo revisore approverebbe comunque tutto senza aggiungere giudizio, il checkpoint è teatro.

La supervisione umana ben progettata non è “quanto controllo posso mettere”. È “qual è il minimo controllo che copre i rischi che contano davvero”.

Come lo impostiamo negli sprint

In fase di assessment mappiamo il workflow passo per passo sulla matrice reversibilità × impatto, definiamo gli approval gate, e li scriviamo nel contratto insieme al metric primario. L’audit log immutabile su ogni decisione è di default. Così a 30 giorni dal go-live sappiamo non solo se l’agente ha recuperato tempo, ma anche quante volte è servito l’umano, e se serviva davvero.

Vuoi mappare i checkpoint sul tuo processo reale? Parliamone (20 minuti, senza pitch) o fai il check-up.