Capitolo 3 - Sfida 5: Contesto legale

[Claudio]

Consultazione pubblica per la sfida 5: Contesto legale

[RiccardoZanardelli]

Immaginando un sistema di garanzia della privacy a più livelli, penso sarebbe determinante interpretare il contesto legale come opportunità di semplificazione, evolvendo la vocazione da normativa ad incentivante (nudging).

Opportunitá che potrebbero essere collegate ai temi di contesto legale:

• Creare un sistema di incentivi per il conferimento proattivo dei dati grezzi da parte del cittadino (conferire dati in quantità e qualità è vantaggio prima ancora che dovere);

• Favorire una chiara distinzione tra dato grezzo e dato elaborato (il dato elaborato non sempre è noto, ma spesso ha valore elevato -> importante esporlo);

• Stimolare la consapevolezza che il dato ottenuto attraverso elaborazione dotata di IA ha attendibilità probabilistica… è per definizione non certo e soggetto ad evoluzione nel tempo (in questo senso il valore di alcuni dati non è solo nell’informazione che portano, ma in quanto essi sono accessibili nel tempo per seguirne l’evoluzione);

• Rendere interoperabile il dato, sia grezzo che elaborato, per dare alla ownership il potere di convertirsi in valore (poter condividere con l’assicurazione il proprio profilo personale completo e certificato dalla PA, semplifica e amplifica la possibilità di ottenere un prezzo migliore? risk profile più attendibile);

• Promuovere la piattaforma PA come aggregatore di dati per eccellenza, semplificando la gestione della fiducia per il cittadino (la fiducia nel buon trattamento dei dati personali ha carattere di utility? è pilastro per lo sviluppo dei servizi digitali? la PA è più o meno credibile e affidabile della private company?);

• Promuovere tecniche evolute di elaborazione dei dati (ad esempio: è possibile per un agente dotato di IA distillare un dato utile e non sensibile elaborando dati molto sensibili senza che essi lascino traccia nel sistema? Che impatto ha questo scenario sul contesto legale?)

Chiedo scusa se alcuni di questi temi escono dal contesto strettamente legale, ma credo che il contesto legale possa avere un ruolo abilitante.

[GiacomoTesio]

Nel primo paragrafo la seguente affermazione è falsa:

Le soluzioni di IA necessitano di enormi quantità di dati, spesso sensibili, per poter essere efficaci.

Le “soluzioni di IA” a cui si fa riferimento sono solo una parte di quelle esistenti, ovvero tutte quelle che sono basate sulla statistica, come reti neurali, cluster analisys etc…

Sebbene tali strumenti statistici attraggano i maggiori investimenti commerciali al momento, altre strade che non richiedono un approccio statistico (e dunque grandi quantità di dati) sono cittadini di primo piano nel campo dell’intelligenza artificiale. Un solo esempio emblematico per la ricerca è disponibile qui.

Far passare l’idea che l’intelligenza artificiale necessiti intrinsecamente di grandi quantità di dati (ed in particolare di dati personali) corrisponde a fare disinformazione.

La frase suddetta potrebbe essere riscritta come

Sebbene non intrinsecamente necessari per l’intelligenza artificiale in generale, le tecniche di maggiore tendenza necessitano di enormi quantità di dati per poter essere efficaci, in quanto sono, sostanzialmente, tecniche statistiche.

Vi è dunque un notevole interesse economico alla raccolta di grandi quantità di dati sensibili ed è necessario analizzare alcune delle principali questioni giuridiche che possono interessare l’IA.

Il quarto paragrafo va integrato

Per garantire la massima trasparenza, il cittadino dovrà essere messo in condizione di comprendere attraverso quale percorso il sistema IA è pervenuto a un determinato risultato, in modo sufficientemente chiaro da poter eventualmente riconoscere un errore di calcolo ed intervenire per ottenerne la correzione.

La conclusione del penultimo paragrafo va rivista: lo sviluppo dell’intelligenza artificiale non è e non deve essere un obbiettivo della pubblica amministrazione. Lo deve essere il suo utilizzo appropriato a servizio del cittadino!
Inoltre parlare di “sistemi intelligenti” è ridicolo se si fa riferimento alle tecnologie disponibili ad oggi.

Il paragrafo dovrebbe dunque diventare

La sfida è chiaramente quella di trovare un bilanciamento tra l’ultilizzo efficace dell’Intelligenza Artificiale a servizio dei cittadini e il rispetto del loro diritto alla riservatezza, dando a questi ultimi la possibilità di esprimere il proprio consenso informato al trattamento di dati da parte dei sistemi statistici in questione.

Nell’ultimo paragrafo, va inoltre aggiunto che la pubblica amministrazione, per tutelare la trasparenza e la comprensibilità delle proprie decisioni, deve richiedere i sorgenti, la documentazione, i dati e tutte le informazioni necessarie a riprodurre esattamente il software IA (compresa la calibrazione dello stesso) in modo da tutelare il cittadino e se stessa a fronte di cause giudiziali o di ricorsi rispetto alle decisioni derivate dai calcoli della IA, spiegando nel dettaglio il processo decisionale effettuato (e dimostrando che tale processo è stato effettivamente realizzato dalla IA).

[Diego]

Nel testo di questa sezione viene citata, a mio avviso un po’ superficialmente la prevenzione del crimine, nel constesto (immagino) dell’utilizzo di tecniche predittive basate su IA. Penso che si debba fare molta attenzione nel dare per scontato (in generale, e certamente in particolare nel Libro Bianco) questo utilizzo dell’ICT e dell’IA in particolare. Esistono casi di studio interessanti che dimostrano le debolezze di un atale approccio, che risultano intollerabili per le possibili conseguenze per i cittadini, a cominciare dalla discriminazione, per finire con una vera e propria persecuzione, sulla base di azioni da parte di organismi di pubblica sicurezza. A tal proposito suggerisco la lettura di To predict and serve? di K. Lum e W. Isaac, pubblicato nell’ottobre 2016 su SIGNIFICANCE (Royal Statistical Society e American Statistical Association) dove viene riportato un caso di studio sperimentale su tecniche di polizia predittiva. In particolare, l’applicazione di un algoritmo della PredPol (“one of the largest vendors of predictive policing systems in the USA and one of the few companies to publicly release its algorithm in a peer-reviewed journal”) ad un data-set basato su dati sulla citta di Oakland, California. Superfluo citare, sempre al riguardo “Weapons of Math Distructions” di C. O’Neil e “The Black Box Society” di F. Pasquale.

[francesco.zanolin]

Aggiungerei anche riferimenti all’orientamento dei gruppi di studio/lavoro creati sia a livello privato che pubblico (US DOD, India DOD, UN ITU groups) che già si occupano di questi aspetti.

[Andrea_Nicolini]

Credo che il paragrafo possa approfondire non solo l’aspetto legale a tutela del cittadino nell’elaborazione dei dati e nella fornitura di servizi di intelligenza artificiale, ma anche e soprattutto degli aspetti normativo/legali che governano la PA e che andrebbero resi più facilmente elaborabili dall’intelligenza artificiale, solo in questo modo si potrebbe davvero modificare la PA. Oggi sono pochissime le norme che portano ad esercitare la funzione primaria della PA di gestione delle risorse pubbliche attraverso le autorizzazioni in modo automatico o semiautomatico. Nella maggior parte dei casi vi sono ambiguità o complessità che richiedono l’interpretazione, spesso soggettiva, umana e questo non solo rende inefficiente oggi la PA, ma la rende non completamente migliorabile dall’IA. Questo paragrafo o un paragrafo nuovo aggiunto al capitolo 3 potrebbero sviscerare questo aspetto, proponendo ad esempio la formulazione di un decalogo per la formulazione di testi normativi che siano completamente sfruttabili da sistemi di intelligenza artificiale. Un approccio di questo tipo potrebbe portare a modificare realmente la PA, sgravando quasi completamente il carico autorizzatorio a favore delle funzioni di monitoraggio, controllo e prevenzione che sono ciò di cui difettiamo maggiormente e di cui l’Italia avrebbe maggiormente bisogno. L’IA apre questi nuovi orizzonti e dovremmo esplorarli.

[GiacomoTesio]

Addendum per chiarificare le esigenze tecniche da prevedere nei bandi a tutela della PA

Per conseguire l’obiettivo della trasparenza è necessario che il funzionamento del software di IA sia riproducibile, valutabile e verificabile da parte di un terzo.
Quali siano le informazioni necessarie per conseguire la possibilità di riprodurre e valutare un sistema di IA, dipende dalla tecnica di IA utilizzata.

Per poter riprodurre e valutare il funzionamento di qualsiasi sistema di IA sono necessari:

• il codice utilizzato, completo della sua versione sorgente, nell’esatta versione in esecuzione, comprese le librerie di terze parti;
• informazione del processo di build del software;
• il set di dati utilizzato per la calibrazione (training) dell’algoritmo.

Poi, sono necessarie altre informazioni che dipendono dal tipo di sistema di IA utilizzato.

Per esempio, per il caso specifico delle reti neurali, sono anche necessarie le informazioni relative alla configurazione iniziale (quanti strati, quanti nodi in ciascuno stato, i pesi iniziali, la cosiddetta “learning rate” ecc.).

Inoltre, per riprodurre la calibrazione statistica della rete neurale, saranno anche necessarie le seguenti informazioni (lista esemplificativa, non completa):

• come sono stati suddivisi i dati fra training (aka calibrazione), cross-validation (dati utilizzati per il confronto fra differenti reti neurali per vedere quale funziona meglio) e test (dati utilizzati per
  misurare la qualità dei risultati),
• durante il training, a seconda della tecnica, potrebbe essere necessario conoscere l’ordine in cui gli esempi sono stati utilizzati (e.g. per una implementazione della adaptive resonance theory), o i gruppi di dati selezionati randomicamente per uno stocastic gradient descent ecc.

[Claudio]

[taskforceia]

Risultano essere senza dubbio temi molto interessanti che possono essere approfonditi in altre sfide.

[taskforceia]

Ti ringrazio. Provvediamo ad integrare il testo con alcune delle tue osservazioni.

[taskforceia]

Grazie, quello che tu segnali è già stato trattato in altre sezioni del Libro Bianco. Il livello di approfondimento ed un eventuale richiamo, sia del concetto che delle sue applicazioni pratiche, verrà valutato in sede di revisione.

[taskforceia]

Ti ringraziamo, il suggerimento che fornisci sarà preso in considerazione nella sezione raccomandazioni e in future integrazioni al Libro Bianco.