L’integrazione dell’Intelligenza Artificiale (IA) nei processi decisionali della Pubblica Amministrazione (PA) solleva non pochi interrogativi in termini di efficacia, equità e responsabilità. Può essere utile, tuttavia, ricordare che “l’errore”, lungi dall’essere un’anomalia, costituisce una dimensione strutturale tanto dell’agire umano quanto dei sistemi algoritmici.
La trasformazione digitale della pubblica amministrazione è sempre più caratterizzata dall’adozione di sistemi di IA per il supporto alle decisioni, la previsione dei fabbisogni e l’allocazione delle risorse. In questo contesto, l’errore tende a essere percepito come un fallimento tecnico da eliminare, piuttosto che come una componente inevitabile e informativa dei processi decisionali complessi. Anzi, spesso, viene inteso come la principale dimostrazione che l’IA non funziona e non è affidabile; genera allucinazioni e fake news; con una certa soddisfazione si enfatizza che l’errore riduce l’algoritmo al rango di un minus habens con il retropensiero di poter buttare il bambino con l’acqua sporca. Ecco allora che Errare humanum est – nec minus algorithmicum sintetizza un punto concettuale centrale: l’IA non elimina l’errore, ma ne modifica la natura, la scala e le implicazioni. Nel settore pubblico ciò impone un ripensamento profondo delle competenze, in specie della dirigenza che è chiamata a governare sistemi che apprendono, ma non comprendono e che migliorano solo se noi li continuiamo ad addestrare “correggendo gli errori”.
Del resto, la letteratura in materia di “errori dell’IA”[1] è ormai ampia ed affermata. È facile pensare che l’IA “non possa sbagliare” perché, quando risponde, lo fa con un tono molto sicuro: frasi ben costruite, lessico tecnico, nessuna esitazione. Il punto è che questa sicurezza è spesso stile, non garanzia di correttezza. I modelli linguistici generano testo ottimizzando la probabilità della prossima parola: se, nella loro esperienza statistica una cosa “suona giusta”, tenderanno a dirla anche quando è falsa o non verificata. L’attività di ricerca sulle allucinazioni nell’NLG (Natural Language Generation) descrive proprio questo: output fluenti ma infedeli ai dati o alla realtà, un problema ricorrente e strutturale. Noi umani siamo predisposti all’automation bias, cioè a fidarci troppo di sistemi automatici quando sembrano competenti. Se un testo è scorrevole, lo trattiamo come affidabile e abbassiamo i controlli. Il benchmark TruthfulQA nasce esattamente per misurare questa trappola: modelli capaci di risposte persuasive possono comunque “mimare” false credenze umane e risultare poco veritieri in zero-shot.
Come si rileva l’IA non “capisce” nel senso umano del termine; ricompone pattern appresi dai dati e può replicare bias o errori presenti nelle fonti. Bender e colleghi lo spiegano bene con la metafora dei “pappagalli stocastici”: sistemi potenti, sì, ma non per questo immuni da fraintendimenti, omissioni e distorsioni. La letteratura sulla sicurezza mette in guardia da comportamenti indesiderati quando cambiano le condizioni (distributional shift) o quando la supervisione è difficile da scalare: sono “incidenti” più che malizia, ma contano lo stesso. In pratica, la domanda giusta che dovremmo farci non è “perché pensiamo che l’IA non possa sbagliare?”, ma “perché ci comportiamo come se non sbagliasse?” E la risposta è una sola: al momento l’IA è molto brava a sembrare credibile e noi siamo il più delle volte pigri nella verifica e inclini alle scorciatoie.
La questione di fondo è che i sistemi di apprendimento automatico operano attraverso l’induzione statistica a partire da dati storici. Come ampiamente documentato in letteratura, tali sistemi sono soggetti a bias nei dati di addestramento, errori di generalizzazione, opacità decisionale (Burrell, 2016; Mitchell, 2019). Nel contesto pubblico, questi limiti assumono una rilevanza particolare poiché gli output algoritmici incidono su diritti, opportunità e distribuzione delle risorse. L’errore algoritmico non è quindi un incidente isolato, ma un rischio strutturale esattamente al pari di quello umano, che richiede quindi capacità di interpretazione critica e intervento correttivo. Un nodo concettuale centrale riguarda la distinzione tra apprendimento automatico, proprio dei sistemi di IA e apprendimento istituzionale, proprio delle organizzazioni pubbliche. Mentre il primo si basa su funzioni obiettivo formalizzate, il secondo implica riflessività, valutazione degli impatti e revisione delle finalità. In assenza di apprendimento istituzionale che si riverberi sull’IA, la stessa rischia di automatizzare decisioni inefficienti o inique (Selbst et al., 2019).
Da qui discende che l’IA può apprendere solo quanto l’istituzione che la governa è in grado di apprendere e di rialimentarla. La letteratura sul public management e sull’innovazione pubblica converge sull’importanza delle competenze – in primis dirigenziali – nella riuscita delle politiche digitali (OECD, 2021). Tuttavia, la formazione sull’IA nella PA rimane spesso limitata a profili tecnici o a moduli introduttivi. Da una parte ci sono percorsi più solidi e approfonditi, ma pensati quasi esclusivamente per chi lavora su IT, dati o sviluppo; dall’altra ci sono corsi brevi di alfabetizzazione, utili per farsi un’idea generale di cosa sia l’IA e di quali siano le sue applicazioni, ma troppo “leggeri” per incidere davvero sulle pratiche quotidiane di un’amministrazione. In mezzo, spesso, resta scoperta proprio la fascia di competenze che serve alla maggioranza delle persone nella PA: quelle che non devono addestrare modelli, ma devono decidere se adottarli, come farlo, con quali cautele, e come trasformare un caso d’uso in un servizio o in un processo che funzioni davvero.
Il punto non è che manchi informazione di base: i moduli introduttivi proliferano e hanno un ruolo, perché riducono l’ansia da “novità” e danno un linguaggio comune. Il problema è che l’IA, nella PA, non è un tema da cultura generale: è una questione di responsabilità, scelte organizzative, gestione dei rischi, contratti e dati. Se la formazione si ferma all’introduzione, le persone capiscono cos’è un algoritmo, ma non imparano a governare un progetto: non sanno quali domande fare a un fornitore, quali requisiti inserire in un capitolato, come impostare una valutazione dei rischi, come garantire tracciabilità e trasparenza, come costruire un monitoraggio serio nel tempo (perché un modello può degradare, cambiare prestazioni, produrre effetti inattesi). Se, invece, la formazione è riservata quasi solo ai tecnici, l’organizzazione finisce per delegare a un gruppo ristretto (spesso ai Responsabili per la Transizione digitale-RTD) le scelte che, in realtà, sono anche amministrative, giuridiche, gestionali e di policy. Questa delega produce un cortocircuito: la tecnologia “sa fare”, ma l’ente non è attrezzato a decidere dove, quando e con quali limiti è opportuno usarla.
Questa dinamica si evince anche nella costruzione delle iniziative formative: è più semplice acquistare un corso base standardizzato, scalabile e poco controverso, che progettare percorsi mirati per ruoli e responsabilità; è più comodo immaginare che l’IA sia una materia “da specialisti” che un tema trasversale di governo. Inoltre, la domanda interna è spesso frammentata: tanti uffici vogliono capire, pochi hanno tempo e mandato per trasformare quella curiosità in un percorso strutturato e orientato al lavoro reale, ma c’è anche un fattore “prudenza”: siccome l’IA porta con sé rischi reputazionali e normativi, ci si rifugia nel corso introduttivo che non espone nessuno, oppure si sposta il peso sull’IT, come se bastasse un parere tecnico a coprire decisioni che hanno impatti su cittadini, procedimenti e responsabilità.
L’effetto pratico è che aumentano i progetti pilota e le dimostrazioni, ma non cresce la capacità dell’amministrazione di portarli in produzione e mantenerli nel tempo. Si creano prototipi che non scalano, si dipende troppo dai fornitori perché mancano competenze interne per valutare alternative e requisiti, e si rischia di “comprare fiducia” al posto di comprare un servizio utile. In parallelo, le opportunità di efficienza e miglioramento restano parzialmente inesplorate, non perché manchi la tecnologia, ma perché manca la competenza organizzativa per integrarla dentro regole, responsabilità e processi.
Per superare questo limite non serve trasformare tutti in data scientist; figuriamoci in un piccolo comune che in Italia rappresentano il 70% di tutti i comuni. Serve, piuttosto, che la formazione faccia un salto di qualità: una base comune di alfabetizzazione, sì, ma poi moduli più pratici e “per mestiere”, tarati su chi decide, su chi acquista, su chi progetta servizi e procedure, su chi gestisce dati e sicurezza, su chi deve monitorare risultati e gestire incidenti. Ciò detto non si può sottovalutare che oggi la PA si muove dentro un vincolo strutturale, perché l’età media del personale impiegato appartiene quasi ad un’altra era geologica e i normali cicli di aggiornamento delle competenze non corrono alla stessa velocità con cui evolve l’IA. Anche quando la formazione è ben disegnata, spesso non basta a colmare in tempi utili il gap su ruoli che richiedono pratica continua, familiarità con strumenti e soprattutto capacità di “traduzione” tra tecnologia, organizzazione e responsabilità pubbliche. Per questo alla formazione va affiancata una strategia di rafforzamento degli organici: introdurre, accanto ai profili esistenti, nuove figure professionali che oggi sono rare o assenti, capaci di presidiare stabilmente l’adozione dell’IA. Non solo specialisti tecnici, ma ruoli ponte come product owner di servizi digitali, data steward e responsabili di data governance, figure di procurement “a prova di algoritmo” (capaci di scrivere requisiti, prevedere audit, gestire clausole e dipendenze), esperti di valutazione del rischio e monitoraggio dei sistemi, e competenze di change management per accompagnare il ridisegno dei processi. La parte decisiva, spesso, è quella laboratoriale: lavorare su casi d’uso reali e produrre output riutilizzabili — checklist di requisiti, modelli di valutazione del rischio, set di KPI (Key Performance Indicator) e piani di monitoraggio, bozze di capitolato con clausole chiave. In altre parole: meno “cos’è l’IA” e più “come la governo, come la compro, come la controllo, e come costruisco dentro l’ente le competenze giuste perché non resti un esperimento”.
Nonostante ciò, è necessario ricordare che l’intelligenza artificiale può sbagliare, ma questo non solo è un segnale dei suoi limiti attuali, quanto piuttosto un promemoria della sua natura: non produce verità, produce risultati probabilistici dentro un perimetro di dati, istruzioni e vincoli. Per questo, l’errore non va letto come un incidente anomalo che scredita la tecnologia, bensì come una condizione normale da mettere in conto e governare. In pratica, l’IA va trattata più come un collega molto veloce che come un oracolo: può accelerare analisi e decisioni, ma va indirizzata, controllata e responsabilizzata dentro un processo chiaro. La differenza, soprattutto nel contesto pubblico, non la fa l’illusione di un’accuratezza perfetta, ma la presenza di regole e pratiche che rendono l’uso dell’IA affidabile nel tempo: controlli, tracciabilità delle decisioni, supervisione umana dove serve, responsabilità chiare, monitoraggio continuo delle prestazioni e procedure per correggere rapidamente quando qualcosa devia. In altre parole, l’IA aumenta capacità e produttività solo se inserita in un sistema di governance capace di prevenire, rilevare e gestire l’errore.
Riferimenti bibliografici
- Burrell, J. (2016). How the machine “thinks”: Understanding opacity in machine learning algorithms. Big Data & Society.
- European Commission (2022). Ethics Guidelines for Trustworthy AI.
- Mitchell, M. (2019). Artificial Intelligence: A Guide for Thinking Humans. Farrar, Straus and Giroux.
- Mazzucato, M. (2023). Mission Economy. Penguin.
- OECD (2021). Artificial Intelligence in the Public Sector. OECD Publishing.
- O’Neil, C. (2016). Weapons of Math Destruction. Crown Publishing.
- Selbst, A. D., Boyd, D., Friedler, S. A., et al. (2019). Fairness and abstraction in sociotechnical systems. FAT* Proceedings.
Il presente articolo è stato redatto con il parziale supporto di tecnologie basate su LLM, nello specifico GPT-5.2 (OpenAI, 2025). L’utilizzo dell’IA ha riguardato attività di revisione e riformulazione testuale; le analisi e le conclusioni rimangono sotto la piena responsabilità dell’autore.
[1] Ji et al. (2022) su allucinazioni nell’NLG https://arxiv.org/abs/2202.03629; Lin, Hilton & Evans (2021) TruthfulQA https://arxiv.org/abs/2109.07958; ; Bender et al. (2021) “Stochastic Parrots” (faculty.washington.edu); Amodei et al. (2016) “Concrete Problems in AI Safety” https://arxiv.org/pdf/1606.06565
Walter Tortorella
Economista, è Capo Dipartimento Economia locale e Direttore della Scuola IFEL. Esperto di politiche pubbliche e sviluppo economico, è stato Direttore del Centro documentazione e studi dei Comuni italiani ANCI-IFEL e Direttore Ufficio Studi della Fondazione Cittalia ANCI Ricerche. È autore di numerosi articoli in materia di public management e politiche di sviluppo.
E-mail: walter.tortorella@fondazioneifel.it
Elvira Zollerano
Sociologa, esperta di formazione pubblica, innovazione e accompagnamento al cambiamento organizzativo. Si occupa di costruzione di ecosistemi di apprendimento, con particolare attenzione ai dispositivi collaborativi, alla valutazione d’impatto e allo sviluppo delle competenze per chi lavora con la pubblica amministrazione. Attualmente è Responsabile dell’Ufficio Sviluppo e innovazione per la gestione della conoscenza di IFEL-Fondazione ANCI e coordina le attività di progettazione didattica e sviluppo percorsi formativi della Scuola IFEL.
E-mail: elvira.zollerano@fondazioneifel.it
