Capitolo 3 - Sfida 2: Tecnologia

[Claudio]

Consultazione pubblica per la sfida 2: Tecnologia

[RiccardoZanardelli]

All’interno de “Gli ambiti di impiego di tecnologie [3] ‘intelligenti’ nella Pubblica amministrazione” elencati, interessante immaginare una sinergia tra l’ambito SISTEMA SANITARIO e l’ambito MOBILITA’ / TRASPORTI.

I sistemi di trasporto, sia l’auto che i mezzi pubblici, sono sempre più connessi e sensorizzati. Al tempo stesso sono tra i servizi di uso più quotidiano.

Immaginiamo che l’abitacolo della propria auto o la seduta di metro/treno possano diventare il luogo per il proprio check-up giornaliero (in background).

Il tempo dedicato alla guida (impugnare un volante significa poter rilevare battito ed altri dati biometrici dalla pelle) oppure alla lettura del giornale (screening attenzione, stanchezza, …) può generare una grande mole di dati che confluisce nell’account personale del cittadino, che ne dispone come desidera (dashboard personale, condivisione con il medico di base, etc…).

Ruolo della PA potrebbe essere:

• definizione di un Developer Program e di opportuno ecosistema aperto
• promozione di uno standard semantico per i dati (già in funzione ricerca ed ecosistema)
• definizione di un framework di tutela/privacy sul dato
• certificazione delle architetture di terze parti (audit programmatico dei flussi dati)

[GiacomoTesio]

In Sistema sanitario aggiungerei “analisi epidemiologiche per identificare precocemente rischi di salute pubblica” e “servizi di traduzione istantanea per facilitare le visite mediche ospedaliere e territoriali degli stranieri” (sto pensando agli ospedali e alle strutture territoriali di grandi città multietniche e multiculturali come Torino).

In Mobilità e trasporti rimuoverei “, ma anche soluzioni di trasporto a guida autonoma”: mancano al momento riferimenti legislativi riguardo le responsabilità penali in caso di incidenti.
Prima di adottare soluzioni di trasporto a guida autonoma è necessario adottare una legislazione in grado di stabilire precisamente chi risponde degli inevitabili errori, sia di programmazione che riconducibili all’hardware o alla manutenzione dei veicoli (che potrebbe causare problemi imprevisti alla IA).
Il tema è piuttosto complesso da un punto di vista tecnico oltre che legale, e deve tenere conto di diversi aspetti come il versioning del software e delle dipendenze, la responsabilità penale degli azionisti etc…

Sarebbe anzi utile aggiungere alcune di queste considerazioni per spiegare perché non sia possibile introdurre veicoli a guida autonoma senza prima intervenire sull’ordinamento.

Nell’ambito del sistema scolastico lascerei solo “estrazione di indicatori predittivi di rischio di abbandono scolastico”. Le altre proposte mi sembrano non tenere conto della complessità reale dell’attività educativa e dei rischi di una formazione “personalizzata”. Per contro, “strumenti automatici per la valutazione” potrebbero essere utili agli studenti a casa, come supporto allo studio ma andrebbero descritti come “strumenti automatici per la autovalutazione a disposizione degli studenti”.

Rimuoverei completamente il box informativo sulla IA, che non aggiunge nulla di utile se non qualche vaga ed evocativa allusione a termini tecnici. Senza un adeguato livello di approfondimento sul significato di tali termini (che richiederebbe molto tempo ed esperienza concreta di queste tecniche statistiche), tale box ottiene l’unico risultato di confondere le idee.

[GiacomoTesio]

Ancora una piccola precisazione: nella sezione Sistema tributario sarebbe forse piu’ chiaro (e piu’ utile):

Sistema tributario: applicazione di tecniche di IA per identificare casi di potenziale elusione ed evasione fiscale attraverso l’analisi e l’incrocio di dati provenienti dai diversi settori dello Stato.

Questo tipo di applicazione potrebbe veramente costituire uno strumento straordinario per le casse dello stato, che si troverebbe a massimizzare l’efficienza dei controlli.

[Diego]

Salve,
Vorrei soltanto osservare che trovo singolare che parlando di “sfida tecnologica” non si faccia per niente riferimento alle limitazioni delle quale la tecnologia in questione soffre. MI riferisco per esempio alla questione della spiegabilita’, cioe’ al fatto che non sempre sia possibile (comprendere e quindi) spiegare come un sistema che utilizza machine/deep learning abbia raggiunto una certa conclusione o perche’ abbia fornito una certa risposta. Penso che la spiegabilita’ sia un aspetto cruciale nell’uso dell’IA nella PA, per ovvi motivi. Quindi ritengo che sia giusto evidenziare almeno questa limitazione. Al riguardo, suggereisco anche la lettura del Belfer Center Study “Artificial Intelligence and National Security” di G. Allen e T. Chan (Belfer Center for Science and International Affairs - Harvard Kenedy School) che, sebbene focalizzato su applicazioni diverse da quella oggetto del Libro Bianco, contiene interessanti considerazioni/raccomandazioni generali, delle quali ne riporto una (la n. 9) che mette in evidenza il problema della spiegabilita’, della trasparenza, della verifica e della validazione, sia dal punto di vista della ricerca che da quello della reale implementazione nei programmi di utilizzo: “RECOMMENDATION 9: DoD and the Intelligence Community should
establish dedicated AI-safety organizations.The National Artificial Intelligence Research and Development Strategic Plan established a strong agenda for research into AI-safety, covering improving explainability and transparency, building trust, and enhancing verificationand validation.These are the right priorities, but it is a separate task to ensure that research findings on AI safety are effectively incorporated into the plans, systems, and activities of the national security community.”. Mutatis mutandi …

[francesco.zanolin]

Risulta completamente mancante un riferimento alla “Ricerca pubblica”, l’ultima volta che ho controllato faceva parte della PA, che oltre ad essere di impatto proprio nello sviluppo del tema trattato è già spesso pioniere nelle applicazioni sul tema.

[Michele_Silletti]

relativamente ai “rapporti col cittadino”, come Associazione Ecosistema Camerale, riteniamo fondamentale far evolvere il processo di “supporto e assistenza” all’utenza in una interazione personalizzata con la logica del marketing one to one che parta dalla conoscenza effettiva dell’utente (sistemi di CRM avanzati) e formulando soluzioni e risposte, appunto, personalizzate, efficaci.

relativamente al pubblico impiego e collocamento i sistemi di intelligenza artificiale devono essere utilizzati per gestire anche questo enorme patrimonio informativo (professionale e culturale) supportando anche un efficace interscambio di competenze e risorse all’interno di ogni Pubblica Amministrazione e tra le diverse PA, incentivando ulteriormente il principio di “Unica PA”

Tra gli esempi di impiego di tecnologie “intelligenti” nella Pubblica amministrazione non possiamo non menzionare la specifica categoria dei “Rapporti con l’impresa” che non sono necessariamente assimilabili ai “Rapporti con il cittadino”, in quanto dotati di specifiche peculiarità e per certi aspetti (in primis la capacità delle imprese per natura ad essere più pronte nel cogliere nuove opportunità nel dialogo con la PA) più idonee a costituire un valido test, specie nella prima fase di introduzione dell’IA.

[GiacomoTesio]

relativamente al pubblico impiego e collocamento i sistemi di intelligenza artificiale devono essere utilizzati per gestire anche questo enorme patrimonio informativo

Attenzione però alle implicazioni degli articoli 13 e 14 del GDPR: una preselezione automatica dei curricula da considerare per un colloquio o da proporre ad una impresa determina il diritto del lavoratore escluso da tale selezione di conoscere le logiche che hanno dato origine a tale risultato, in modo da poter intervenire sulla propria professionalità e migliorare la propria collocazione sul mercato.

Questo ha implicazioni molto interessanti.

Ipotizziamo un sistema che determini i curricula sulla base di semplici ricerche relazionali, basate sulle informazioni presenti sul curriculum, integrate da un ulteriore filtro basato su una IA.

Ogni curricula selezionato dal filtro relazionale, ma scartato dal filtro IA dovrebbe ricevere una comunicazione contenente “informazioni significative sulla logica utilizzata, nonché l’importanza e le conseguenze previste di tale trattamento per l’interessato.” (articolo 13 del GDPR, punto 2 paragrafo f).

[Claudio]

[taskforceia]

Riccardo, grazie degli spunti. Può essere un possibile approfondimento negli ecosistemi che vorremmo lanciare dopo l’evento del 21.

[taskforceia]

aggiungiamo le tue integrazioni, stiamo valutando la rimozione del box aggiuntivo.

[taskforceia]

modifichiamo come proposto

[taskforceia]

la valutiamo come raccomandazione

[taskforceia]

Il tema della ricerca è trasversale alle applicazioni nella PA e sicuramente sarà oggetto di approfondimento nelle raccomandazioni

[taskforceia]

Per non diversificare troppo, "cittadino " significa anche l’imprenditore

[taskforceia]

il problema che poni è discusso nelle sfide. inseriremo per chiarimento un box sul gdpr