Delegare decisioni all’AI: le domande che le amministrazioni non possono evitare

Un’amministrazione pubblica prende ogni giorno decisioni che cambiano la vita di qualcuno. Concedere o negare un beneficio. Avviare o no un controllo fiscale. Stabilire chi viene visitato prima in un pronto soccorso. Una parte crescente di queste decisioni può oggi essere automatizzata, in tutto o in parte, e i vantaggi sono reali: tempi più rapidi, maggiore coerenza tra casi simili, possibilità di gestire volumi che il lavoro manuale non regge.

L'interesse delle amministrazioni verso questa strada è documentato: in un recente studio di IDC sull'impatto di dati e AI nel settore pubblico, il 64% delle organizzazioni pubbliche indica l'efficienza e l'efficacia dei processi come la lente principale attraverso cui leggere il valore dell'intelligenza artificiale. Gli ambiti in cui questo si traduce in pratica sono già concreti: il triage e la classificazione delle richieste in contesti sanitari sotto pressione, la valutazione delle dichiarazioni fiscali nel momento stesso in cui vengono presentate, con una guida al contribuente che precede la sanzione, il controllo dei pagamenti sanitari prima che i fondi vengano erogati. In tutti questi casi un sistema concorre a una decisione che ha conseguenze dirette su una persona.

Sempre più spesso, queste decisioni si basano anche su informazioni non strutturate – documenti, note cliniche, comunicazioni – che possono essere valorizzate attraverso approcci come il Retrieval-Augmented Generation (RAG), in grado di integrare contenuti rilevanti nel processo decisionale.

La domanda “nuova” da porsi, quindi, non è se un sistema possa prendere una certa decisione, ma a quali condizioni sia legittimo affidargliela. Perché quando la decisione tocca un diritto, l’efficienza non è l’unico criterio in gioco. Di seguito, proponiamo cinque domande utili da porsi prima di prendere decisioni di automazione dei processi e delega ai sistemi basati su intelligenza artificiale.

1. Di chi è la responsabilità di questa decisione?

Automatizzare una decisione non sposta la responsabilità sul sistema. La responsabilità resta dell'ente e delle persone che lo guidano. È una distinzione che sembra ovvia e che, invece, tende a sfumare quando un processo diventa automatico e silenzioso. La prima domanda da mettere a verbale è quindi semplice: se questa decisione produce un errore o un danno, chi ne risponde e con quali strumenti può intervenire? Se la risposta non è chiara prima di partire, il problema non è tecnico. Anche nei sistemi di intelligent decisioning più avanzati, governance e accountability restano elementi organizzativi, non demandabili alla tecnologia.

2. Possiamo ricostruire perché il sistema ha deciso così?

Una decisione pubblica deve poter essere spiegata. Non solo nel suo esito, ma nel suo percorso: quali dati sono stati usati, quali regole hanno governato l'esito, quale soglia ha fatto scattare un controllo o un'esclusione. Sul piano tecnico questa ricostruzione è possibile, perché un buon sistema di decisione automatizzata non si limita a produrre un esito: registra quale modello è stato applicato, quali regole hanno governato il risultato, quale soglia ha attivato un'escalation.

La tracciabilità, in altre parole, può essere progettata fin dall'inizio invece di essere rincorsa dopo. Non è una funzionalità accessoria da aggiungere alla fine: è la condizione che permette a un cittadino di contestare una decisione, a un funzionario di rivederla, a un organo di controllo di verificarla. Un sistema che produce esiti corretti ma inspiegabili sposta semplicemente il problema più avanti. L’integrazione di approcci come il RAG può inoltre contribuire a rendere più contestualizzate e verificabili le raccomandazioni, collegandole alle fonti informative utilizzate.

3. Qual è il ruolo della persona nel processo decisionale?

Tenere una persona nel ciclo decisionale viene spesso presentato come una garanzia. Lo diventa davvero solo a certe condizioni. Una supervisione umana che si limita a confermare ciò che il sistema propone, senza tempo né strumenti per valutare il singolo caso, è una garanzia solo sulla carta. La domanda utile non è se ci sia una persona, ma cosa quella persona può effettivamente fare: ha accesso alle informazioni rilevanti? Ha il tempo per esaminarle? Può discostarsi dalla raccomandazione del sistema senza pagarne un prezzo organizzativo? Il presidio umano funziona quando è dotato di autonomia reale. In un contesto di intelligent decisioning, questo significa anche fornire agli operatori insight comprensibili e supporti decisionali che integrino dati strutturati e contenuti recuperati dinamicamente.

4. Cosa succede ai casi che il sistema non sa gestire?

Ogni sistema automatico funziona bene su una parte dei casi e fatica sugli altri. I casi anomali, le situazioni di confine, le combinazioni rare sono spesso proprio quelli in cui una decisione sbagliata fa più danno. Prima di automatizzare conviene chiedersi come il sistema riconosce di trovarsi davanti a un caso che non sa gestire, e cosa succede in quel momento.

Un buon processo non è quello che decide su tutto, ma quello che sa distinguere ciò su cui può decidere da ciò che deve passare a una valutazione più attenta. È la stessa logica con cui, in alcune amministrazioni fiscali, il sistema indirizza verso un controllo solo i casi che superano una certa soglia di rischio, lasciando che le risorse investigative si concentrino dove servono davvero. 

5. Come cambia nel tempo il sistema, e chi ne monitora gli effetti?

Le politiche cambiano, i dati cambiano, la popolazione che accede a un servizio cambia. Un sistema decisionale tarato su una certa realtà può diventare inadeguato senza che nessuno se ne accorga, semplicemente perché continua a funzionare in apparenza. Serve quindi stabilire fin dall'inizio come il sistema viene monitorato nel tempo, chi è incaricato di osservarne gli effetti, e attraverso quali segnali ci si accorge che qualcosa sta scivolando.

Le amministrazioni operano peraltro entro vincoli normativi che mutano, e un sistema dovrebbe poter recepire un cambiamento di regole senza dover essere riprogettato da capo. L'automazione è un percorso, un impegno che continua nel tempo e che non si esaurisce con la messa in funzione di un progetto.

Trasparenza, tracciabilità e presidio umano come scelte, non come funzioni

Queste cinque domande hanno un filo comune. Trasparenza, tracciabilità e presenza di una persona competente nel processo sono scelte di responsabilità che un'amministrazione compie, e di cui risponde, indipendentemente dallo strumento adottato, non certo caratteristiche che si attivano in un pannello di configurazione. La tecnologia può rendere queste responsabilità più facili o più difficili da prendere e controllare, ma non può sostituirsi all'essere umano.

Resta una domanda aperta, che ogni ente deve affrontare nel proprio contesto. Esistono decisioni che, per la loro natura, non andrebbero automatizzate del tutto, nemmeno quando i dati lo consentirebbero? Probabilmente sì. Individuare quali, e dirlo con chiarezza, è forse la prima vera prova di maturità nell'uso pubblico dell'intelligenza artificiale.

30 giugno 2026