Infine, l’integrazione dell’IA può contribuire ad aumentare le capacità dei dipendenti pubblici, come strumento a sostegno del decision making e senza mai sostituirsi al giudizio umano.
Questo e’ possibile solo dopo una accurata ed approfondita formazione specifica del personale, che deve essere formato a mantenere autonomia decisionale anche a fronte del rischio che l’assunzione di responsabilità insita nel contraddire la macchina comporta.
Questo articolo spiega bene, in un altro contesto, come il supporto della macchina possa ridurre sensibilmente l’autonomia decisionale delle persone.
Non possiamo dunque aspettarci che il personale della PA sviluppi autonomamente la capacita’ di contraddire una macchina che sembra (e sottolineo sembra) avere sempre ragione.
Molto bella ed interessante la parte sulla co-creazione della applicazione supportata dalla IA da parte dei cittadini. La condivido in pieno. Attenzione pero’ a fornire ai cittadini informazioni approfondite sul funzionamento e sulle implicazioni della IA, in modo che la loro partecipazione possa essere veramente influente: permettere ai cittadini di votare il colore dei capelli di un bot, non e’ co-creazione, ma marketing.
La PA deve servire il cittadino, non manipolarlo.
Nel penultimo paragrafo, inoltre viene detto:
Beneficiare dell’IA nei servizi pubblici non significa necessariamente sviluppare soluzioni nuove partendo da zero. Al contrario, è possibile guardare a quanto già adottato da altri governi, oppure attingere alle tecnologie già affermate sul mercato.
Questa affermazione e’ certamente vera, ma parziale.
Le esigenze di efficienza, efficacia ed economicità della PA sono infatti piuttosto peculiari.
Per fare solo un esempio, sarà fondamentale per la pubblica amministrazione essere in grado di spiegare precisamente il funzionamento previsto della IA nel momento in cui questa partecipi con i propri calcoli ad una decisione amministrativa, in caso di ricorsi o vertenze legali, ma anche di essere in grado di dimostrare la sua aderenza a tale “funzionamento previsto” in tribunale. (Efficacia + Economicità)
Tali esigenze di trasparenza da un lato e tutela legale della PA dall’altro hanno enormi implicazioni pratiche, come la necessità di disporre dei sorgenti, della documentazione, di procedure di compilazione verificate e replicabili, dei dati necessari a riprodurre esattamente la calibrazione della AI, etc… di qualunque software di questo tipo che entri a servizio della PA. (Efficienza + Economicità)
Al contempo eventuali software as a service che utilizzassero o fornissero servizi di intelligenza artificiale dovrebbero fornire loro stessi, sotto forma di log intellegibili, pertinenti e verificabilmente completi, informazioni sufficienti a dimostrare la correttezza dell’operato della AI in ciascuno dei suoi output. Tali fornitori SaaS dovrebbero essere in grado di garantire la riproducibilità dei propri calcoli ad una qualunque data (e dunque la storicizzazione degli eventuali dati utilizzati) per tutto il tempo necessario a far fronte ad eventuali vertenze legali (a seconda dei casi da 6 mesi a 20 anni, se non erro).
E sarà altrettanto importante, per i stabilire un rapporto di fiducia con cittadini, che i “processi decisionali” della IA siano completamente trasparenti, in modo tale che il cittadino possa comprenderli veramente ed eventualmente identificare e correggere eventuali errori che lo riguardano. (Efficienza + Efficacia)
Qualora infatti non fosse dimostrabile il corretto funzionamento della IA o non fosse spiegabile il suo funzionamento, la PA ne risulterebbe danneggiata sia a livello economico (perdendo ricorsi etc…) sia a livello di immagine (perdendo la fiducia dei cittadini)
Infine per garantire l’efficienza e l’economicità dell’integrazione della IA nella pubblica amministrazione, sarebbe saggio vincolare la remunerazione della stessa ai risultati misurabili prodotti.
Ad esempio, una IA che intervenisse per contrastare l’evasione e l’elusione fiscale potrebbe essere retribuita con una percentuale dell’incremento del recupero fiscale a valle della sua introduzione.
Un modello simile a quanto realizzato in Piemonte per incrementare la raccolta differenziata dei rifiuti, in cui i comuni trasferivano all’azienda che si occupava della formazione della cittadinanza una parte del proprio risparmio sui costi di conferimento in discarica.
