Human in the loop: quanta autonomia dare a un agente AI, e quando

Risposta breve

Human in the loop significa che una persona interviene in un punto preciso del lavoro di un agente AI per approvare, correggere o bloccare un’azione. Quanta autonomia dare dipende dalla singola attività: reversibilità, impatto di un errore, dati personali coinvolti, chiarezza delle regole. Conviene partire dai livelli in cui l’agente suggerisce o prepara, salire solo con dati misurati e tornare indietro dopo errori gravi o cambiamenti.

Perché la domanda giusta non è “fidarsi o no”

Un agente AI è un software che riceve un obiettivo, decide quali passi compiere e usa strumenti (una casella email, un gestionale, un archivio documentale) per portarlo a termine. A differenza di un chatbot, non si limita a rispondere: agisce. Per questo la questione del controllo umano diventa centrale.

L’espressione human in the loop indica un sistema in cui una persona interviene in un punto preciso del flusso di lavoro: approva, corregge o blocca. È diversa da human on the loop, in cui la persona non approva ogni singola azione ma sorveglia il sistema e può intervenire quando serve.

Molti progetti si arenano proprio qui. C’è chi vuole l’automazione completa dal primo giorno e scopre gli errori quando sono già arrivati al cliente; e c’è chi impone un’approvazione su ogni azione e crea un collo di bottiglia.

Controlli del rischio inadeguati sono anche una delle cause per cui molti progetti vengono chiusi prima di dare risultati: ne parliamo in come non finire tra i progetti cancellati.

La domanda utile, quindi, non è se fidarsi dell’agente. È: per questa specifica attività, con questi dati e questo livello di rischio, quanta autonomia ha senso dare oggi, e cosa deve succedere perché domani se ne possa dare di più.

Human in the loop: quattro livelli di autonomia

La matrice che segue descrive quattro livelli. Non è uno standard normativo: è un modello di lavoro che si può adattare a qualunque processo. L’idea chiave è che il livello si assegna alla singola attività, non all’agente nel suo complesso. Lo stesso agente può essere autonomo nel classificare una richiesta e limitarsi a suggerire quando si tratta di concedere un rimborso.

Due osservazioni pratiche. La prima: tra il livello 2 e il livello 3 cambia la natura del lavoro umano, che passa dall’approvare al sorvegliare. È il salto più delicato. La seconda: il livello 4 non significa assenza di controllo. Significa che il controllo si sposta dalla singola transazione agli indicatori aggregati e alle verifiche periodiche.

Come decidere il livello di partenza

Per assegnare il livello iniziale bastano cinque domande. Ognuna sposta l’ago verso più o meno autonomia.

1. L’azione è reversibile? Spostare un’email in una cartella si annulla in un secondo. Un bonifico disposto o una comunicazione inviata a un cliente no. Più l’azione è irreversibile, più il livello di partenza deve essere basso.
2. Qual è l’impatto di un errore? Conviene stimarlo in termini concreti: euro, ore di lavoro per rimediare, danno alla relazione con il cliente, esposizione legale.
3. L’azione esce dall’azienda? Tutto ciò che raggiunge clienti, fornitori o enti pubblici ha un peso diverso da ciò che resta interno.
4. Sono coinvolti dati personali o decisioni sulle persone? Se l’attività incide su un cliente, un candidato o un dipendente, entrano in gioco vincoli normativi specifici (ne parliamo più avanti).
5. Le regole sono chiare e stabili? Se due colleghi esperti, davanti allo stesso caso, prenderebbero decisioni diverse, l’agente non ha un riferimento univoco. In questo caso è meglio restare al livello 1 o 2.

Una regola prudente: ogni nuova attività parte dal livello 1 o 2, anche quando sembra semplice. Il costo di qualche settimana di approvazioni è basso rispetto a quello di scoprire un errore sistematico dopo mesi.

Quando salire di livello e quando scendere

Il passaggio di livello deve basarsi su dati, non su impressioni. Per questo serve un periodo di osservazione in cui si registrano, per ogni proposta dell’agente, l’esito della revisione umana: approvata così com’è, modificata, respinta.

Criteri per salire

Prima di passare al livello successivo, conviene verificare che tutte queste condizioni siano soddisfatte:

• Volume sufficiente. Il periodo di osservazione deve contenere abbastanza casi da essere significativo, comprese le varianti stagionali o di fine mese.
• Tasso di approvazione senza modifiche stabile e alto. La soglia la fissa l’azienda in base all’impatto dell’errore: più l’errore costa, più la soglia deve essere alta.
• Nessun errore grave. Un solo errore con impatto rilevante azzera il conteggio, a prescindere dalla percentuale complessiva.
• Eccezioni riconosciute. L’agente deve dimostrare di saper dire “non lo so” e passare la mano quando il caso esce dallo schema, invece di forzare una risposta.
• Registro completo. Ogni azione deve essere ricostruibile: dati in ingresso, decisione, azione eseguita, esito. Senza questo, la sorveglianza dei livelli 3 e 4 è impossibile. Approfondiamo il tema in un registro di audit per l’AI.
• Annullamento collaudato. Al livello 3 la persona deve poter annullare un’azione. Va verificato che il meccanismo funzioni prima di averne bisogno.

Criteri per scendere

Tornare indietro non è un fallimento: è parte del progetto. Le condizioni che dovrebbero far scendere automaticamente di un livello sono:

• un errore grave, anche isolato;
• un calo del tasso di approvazione rispetto al periodo di riferimento;
• un cambiamento nel processo o nei dati: nuovo listino, nuovo modulo, nuova normativa, nuovo fornitore principale;
• un aggiornamento del modello linguistico di grandi dimensioni (LLM, large language model) su cui si basa l’agente, che può cambiarne il comportamento anche a parità di istruzioni.

Quest’ultimo punto è spesso trascurato: dopo ogni aggiornamento del modello conviene una breve fase di osservazione, almeno sulle attività ai livelli 3 e 4.

Progettare il controllo umano perché funzioni davvero

Un controllo umano mal progettato dà una falsa sicurezza. Se il revisore riceve cento richieste di approvazione al giorno, tutte identiche nella forma, finirà per approvarle senza leggerle. È il fenomeno noto come automation bias: la tendenza a fidarsi in modo eccessivo dell’output di un sistema automatico. Alcune scelte di progettazione aiutano a contrastarlo.

• Mostrare il perché, non solo il cosa. Il revisore deve vedere su quali dati l’agente ha basato la proposta: il documento di origine, la regola applicata, il precedente simile.
• Evidenziare l’incertezza. Le proposte su cui l’agente è meno sicuro vanno segnalate in modo visibile e messe in cima alla coda.
• Ridurre il volume da approvare. Se tutto passa dal revisore, il revisore smette di revisionare. Meglio approvare in blocco i casi standard e concentrare l’attenzione sulle eccezioni.
• Rendere la modifica facile quanto l’approvazione. Se correggere richiede dieci passaggi e approvare uno solo, le correzioni non verranno fatte.
• Assegnare un responsabile per ogni attività. Il controllo umano funziona quando una persona con nome e cognome risponde di quel flusso, non quando è “l’ufficio” a doverlo seguire.
• Usare le correzioni. Ogni modifica del revisore è un dato prezioso: segnala dove le istruzioni dell’agente sono ambigue o dove il processo ha eccezioni non documentate.

Il metodo di lavoro che conviene adottare parte sempre da un processo e da un indicatore misurabile. Senza un indicatore, non c’è modo di sapere se un passaggio di livello ha migliorato o peggiorato le cose.

Cosa dicono le norme

Due riferimenti normativi toccano direttamente il tema.

Il primo è l’articolo 22 del GDPR (General Data Protection Regulation, Reg. UE 2016/679), che riconosce all’interessato il diritto di non essere sottoposto a una decisione basata unicamente su un trattamento automatizzato quando questa produce effetti giuridici o incide in modo analogo e significativo sulla sua persona. Esistono eccezioni (contratto, legge, consenso esplicito), ma richiedono garanzie, tra cui il diritto di ottenere l’intervento umano. Per attività come la valutazione di una richiesta di credito o la selezione di candidati, quindi, il livello 4 è di fatto escluso salvo un’analisi giuridica specifica.

Il secondo è l’AI Act (Regolamento UE 2024/1689). L’articolo 14 richiede che i sistemi classificati ad alto rischio siano progettati in modo da poter essere sorvegliati efficacemente da persone fisiche, che devono poterne comprendere i limiti, interpretarne l’output e interromperne il funzionamento. Dopo le modifiche del cosiddetto “Digital Omnibus” (Regolamento UE 2026/1744, pubblicato in Gazzetta ufficiale dell’UE il 24 luglio 2026), gli obblighi per i sistemi ad alto rischio dell’Allegato III si applicano dal 2 dicembre 2027 (FPF, 2026; Gibson Dunn, 2026). La maggior parte degli agenti per il back office non rientra in queste categorie, ma il principio è una buona guida anche dove non è obbligatorio. Il calendario completo è nell’articolo sull’AI Act scadenza per scadenza.

Infine, un aspetto pratico: se un’attività tratta dati personali, la scelta del livello di autonomia va documentata anche nella valutazione d’impatto (DPIA, Data Protection Impact Assessment, art. 35 GDPR), quando questa è necessaria. Le scelte di privacy by design vanno fatte all’inizio, non aggiunte dopo.

Da ricordare

• Il livello di autonomia si assegna alla singola attività, non all’agente nel suo complesso.
• Ogni nuova attività parte dal livello “suggerisce” o “prepara e valida”, anche se sembra semplice.
• Si sale di livello solo con dati alla mano: volume di casi, tasso di approvazione, assenza di errori gravi, registro completo.
• Si scende di livello dopo un errore grave, un calo delle prestazioni, un cambio di processo o un aggiornamento del modello.
• Un controllo umano che approva tutto senza leggere non è un controllo: va progettato per concentrare l’attenzione sulle eccezioni.
• Per decisioni con effetti significativi sulle persone, il GDPR richiede la possibilità di un intervento umano.

Domande frequenti

Cosa significa human in the loop nell’intelligenza artificiale?

Human in the loop indica un sistema di intelligenza artificiale in cui una persona interviene in un punto preciso del flusso di lavoro per approvare, correggere o bloccare ciò che il sistema propone. Con gli agenti AI, che non si limitano a rispondere ma agiscono su caselle email, gestionali e archivi, serve a stabilire quali azioni possono partire da sole e quali richiedono prima il via libera di un responsabile.

Che differenza c’è tra human in the loop e human on the loop?

Nel modello human in the loop una persona approva o corregge le singole azioni prima che diventino effettive. Nel modello human on the loop la persona non approva ogni passaggio: sorveglia il sistema, controlla indicatori e campioni e interviene quando serve, anche annullando un’azione già eseguita. Il primo è adatto ad attività nuove o ad alto impatto, il secondo ad azioni reversibili con una buona accuratezza storica.

Quando un agente AI può lavorare senza approvazione umana?

Un agente AI può eseguire in autonomia azioni a basso impatto, molto frequenti e facilmente reversibili, come lo smistamento delle richieste verso la coda giusta. Ci si arriva solo dopo un periodo di osservazione con volume sufficiente, tasso di approvazione alto e stabile, nessun errore grave e un registro completo delle operazioni. Anche allora il controllo resta: si sposta dalla singola azione agli indicatori aggregati e alle verifiche periodiche.

Cos’è l’automation bias e come si riduce?

L’automation bias è la tendenza a fidarsi in modo eccessivo dell’output di un sistema automatico. Succede, per esempio, quando un revisore riceve decine di richieste di approvazione identiche e finisce per approvarle senza leggerle. Si riduce mostrando su quali dati si basa ogni proposta, segnalando i casi incerti, approvando in blocco quelli standard, rendendo la correzione facile quanto l’approvazione e assegnando un responsabile nominativo a ogni attività.

Il GDPR vieta le decisioni completamente automatizzate?

L’articolo 22 del GDPR riconosce il diritto di non essere sottoposti a decisioni basate unicamente su un trattamento automatizzato che producono effetti giuridici o incidono in modo analogo e significativo sulla persona. Sono ammesse eccezioni per contratto, legge o consenso esplicito, ma servono garanzie, tra cui il diritto di ottenere l’intervento umano. Per la valutazione del credito o la selezione dei candidati, l’autonomia completa richiede quindi un’analisi giuridica specifica.

L’AI Act obbliga a prevedere la supervisione umana?

Sì, per i sistemi classificati ad alto rischio. L’articolo 14 dell’AI Act (Regolamento UE 2024/1689) richiede che possano essere sorvegliati efficacemente da persone in grado di comprenderne i limiti, interpretarne l’output e interromperne il funzionamento. Dopo il Digital Omnibus (Regolamento UE 2026/1744), per i sistemi ad alto rischio dell’Allegato III questi obblighi si applicano dal 2 dicembre 2027. Gran parte degli agenti per il back office non rientra in queste categorie.

Cosa fare quando cambia il modello linguistico usato da un agente AI?

L’aggiornamento del modello linguistico di grandi dimensioni (LLM) su cui si basa un agente può cambiarne il comportamento anche a parità di istruzioni. Per questo è prudente far scendere di un livello le attività eseguite con notifica o in piena autonomia e prevedere una breve fase di osservazione, così che una persona torni a verificare le azioni finché i risultati non si confermano stabili.

Bibliografia e fonti

1. Parlamento europeo e Consiglio dell’Unione europea, Regolamento (UE) 2016/679 relativo alla protezione delle persone fisiche con riguardo al trattamento dei dati personali (GDPR), Gazzetta ufficiale dell’Unione europea, L 119, 4 maggio 2016. https://eur-lex.europa.eu/eli/reg/2016/679/oj, consultato il 10/10/2026.
2. Parlamento europeo e Consiglio dell’Unione europea, Regolamento (UE) 2024/1689 che stabilisce regole armonizzate sull’intelligenza artificiale (AI Act), Gazzetta ufficiale dell’Unione europea, serie L, 12 luglio 2024. https://eur-lex.europa.eu/eli/reg/2024/1689/oj, consultato il 10/10/2026.
3. Parlamento europeo e Consiglio dell’Unione europea, Regolamento (UE) 2026/1744 (Digital Omnibus sull’AI), che modifica tra l’altro il Regolamento (UE) 2024/1689, Gazzetta ufficiale dell’Unione europea, serie L, atto dell’8 luglio 2026, pubblicato il 24 luglio 2026. https://eur-lex.europa.eu/eli/reg/2026/1744/oj, consultato il 10/10/2026.
4. Andreea Șerban, Bianca-Ioana Marcu (Future of Privacy Forum), The AI Act Implementation Timeline: What Changes Under the AI Omnibus?, fpf.org, 28 luglio 2026 (aggiornato il 5 agosto 2026). https://fpf.org/blog/the-ai-act-implementation-timeline-what-changes-under-the-ai-omnibus, consultato il 10/10/2026.
5. Gibson, Dunn & Crutcher, EU AI Act Omnibus Agreement — Postponed High-Risk Deadlines and Other Key Changes, gibsondunn.com, 27 maggio 2026. https://www.gibsondunn.com/eu-ai-act-omnibus-agreement-postponed-high-risk-deadlines-and-other-key-changes/, consultato il 10/10/2026.

Approfondisci

• Gartner prevede che oltre il 40% dei progetti di agentic AI sarà cancellato: come non essere tra quelli: le cause per cui i progetti di agentic AI vengono chiusi e come impostarli per evitarlo.
• Un registro di audit per l’AI: perché la tracciabilità è un requisito di prodotto: cosa registrare di ogni azione di un agente AI e perché la tracciabilità va progettata dall’inizio.
• AI Act: cosa cambia per chi usa agenti AI nei processi aziendali, scadenza per scadenza: il calendario degli obblighi dell’AI Act per le aziende che usano agenti AI, aggiornato al Digital Omnibus.
• Il metodo di lavoro: come impostiamo un progetto partendo da un processo e da un indicatore misurabile.
• La piattaforma: le funzionalità della piattaforma, dal registro delle operazioni ai livelli di controllo.