Intelligenza artificiale e giustizia predittiva: un "cambiamento d'epoca"

Il titolo richiama un noto saggio di Umberto Eco per significare come, di fronte al progresso tecnologico, noi siamo prigionieri di un duopolio semantico: è tutto fantastico o è tutto una tragedia?

Prima di tutto occorre fare una premessa. Poco prima della pandemia Paolo Benanti, uno dei maggiori esperti in materia di Intelligenza Artificiale, scrisse che l'umanità si stava trovando non davanti ad un'epoca di cambiamenti bensì ad un cambiamento d'epoca. Antoine Garapon, famoso saggista e magistrato francese, sino al 2020 Segretario Generale dell'Istituto di Studi Avanzati sulla Giustizia, ha scritto che l'umanità sta vivendo una rivoluzione grafica di portata senza precedenti, e cioè il passaggio da una scrittura alfabetica ad una matematica.

Per comprendere in modo semplice il cambio epocale delle attuali strutture cognitive, Benanti propone una domanda: piove? Di fronte a tale quesito il modello della filosofia classica, il modello di Aristotele o anche di pensiero stoico, avrebbe risposto con una risposta del tipo: piove per far crescere l'erba, cioè la risposta era finalistica, la risposta era teleologica.

Gli umani vedevano dei fini o insiti all'interno di quello che era il vivente stesso o in stagioni diverse come fini globali e la teologia ha trovato in un modello teologico un alleato fantastico per parlare di quello che è il fine di tutte le cose, cioè Dio.

Questo modello a un certo punto si è esaurito. Le cosmologie statiche prodotte da questo modello a un certo punto cozzarono con quei dati che l'osservazione empirica stava fornendo e questa realtà descritta per qualità tanto temporali quanto spaziali venne pian piano sostituita da una realtà fatta di quantità dove esiste il tempo assoluto e lo spazio assoluto.

Pertanto, alla domanda piove? Gli umani hanno iniziato a rispondere in un'altra maniera: laddove una corrente d'aria calda incontra una corrente d'aria fredda la corrente d'aria fredda produce un addensarsi del vapore acqueo contenuto nell'aria, quando la forza di attrazione gravitazionale produce su questo addensamento di vapore una forza verso il basso maggiore della spinta verso l'alto della corrente ascensionale, piove. L'uomo ha cioè iniziato a dire che la realtà si spiegava mediante le cause.

Abbiamo assistito a un cambio di paradigma. Nota bene: il nesso di causalità è il principio fondamentale sul quale si è sempre fondato il nostro lavoro nel processo.
Ebbene, ora, anche questo modello si è esaurito.

Alla domanda piove? oggi si risponde in modo molto più semplice: piove laddove si aprono gli ombrelli. E cioè, l'uomo ha sostituito la causa con la correlazione.

In fondo, l'ultima volta che avete chiesto al vostro navigatore di portarvi da Torino a Milano il navigatore non sapeva qual era il fine delle persone che con voi occupavano la strada (andavano al pranzo della domenica? andavano a vedere la partita? andavano a votare?), non sapeva nemmeno qual era la causa del traffico ma, correlando la variazione di velocità degli accelerometri presenti nei vostri telefonini, è riuscito a capire dove il flusso di velocità variava e vi ha di fatto suggerito la strada migliore.

Dati e correlazioni sono quel modello che sta cambiando il modo con cui gestiamo la realtà intorno a noi e produciamo una tecnica che si sgancia da un orizzonte scientifico ma ci dà un adeguato controllo sulla realtà.

Sta cambiando la struttura del pensiero, anche con l'ausilio di una macchina, di un artefatto.

A ben guardare non è la prima volta che un artefatto tecnologico ha sconvolto la vita degli umani. Già nel sedicesimo secolo la lente convessa ha dato luogo a due utensili: il primo il telescopio che ci ha permesso di studiare l'infinitamente grande. Improvvisamente, tutto quello che conoscevamo del cosmo è cambiato per sempre: non eravamo più il centro. Sigmund Freud 300 anni dopo dirà che quella è stata la vera prima grande ferita al nostro narcisismo: noi volevamo essere il centro di tutto e ci siamo scoperti essere una parte laterale di un tutto che è molto più grande e che ancora oggi facciamo fatica a definire, capire e studiare fino in fondo.

Il secondo prodotto della lente convessa è stato il microscopio che ci ha permesso di studiare l'infinitamente piccolo. E con l'infinitamente piccolo abbiamo cambiato la consapevolezza di quello che eravamo: non eravamo più una cosa unita, ci siamo scoperti fatti di piccole parti viventi e queste piccole parti viventi sono state le cellule.

Oggi abbiamo un computer che lavora ai dati e che riesce a trovare schemi all'interno di quelli che sono dei pattern o delle collezioni di dati: uno strumento che potremmo chiamare il macroscopio che ci permette di studiare l'infinitamente complesso.

La pandemia ha accelerato in modo vertiginoso questi processi di cambiamento.
L'esperienza maturata in questi anni è stata fondamentale per poter consentire al Sistema Giustizia di sopravvivere: il deposito telematico dei documenti, la trattazione da remoto o scritta dell'udienza ha reso possibile la continuità della giurisdizione.

Oggi, si avverte un diffuso favore della magistratura verso la trattazione figurata del processo, con la presenza dell'avvocato data unicamente dalla parola scritta, affidata al dato elettronico. Da parte dell'avvocatura si è avvertito come positivo il poter gestire il processo dal proprio studio.
Pensiamo poi ai vantaggi che ora abbiamo nel trattare dal nostro studio i procedimenti avanti diverse sedi giudiziarie, alle conferenze a distanza per la trattazione delle udienze, delle mediazioni o delle sessioni con i clienti, ecc.

Nello stesso tempo, avvertiamo tutti una forte preoccupazione per la perdita del contatto con il giudice e nella dissoluzione del principio dell'oralità del processo. Avvertiamo un forte disagio per la dissoluzione dei rapporti professionali tra noi avvocati. Avvertiamo una forte preoccupazione per la necessaria enorme profilazione dei dati, profilazione necessaria per una giustizia predittiva.

È quindi tutto fantastico o è tutto una tragedia?

Appare opportuno affrontare il tema in modo non superficiale, in modo "laico", senza estasi e senza preconcetti: i cambiamenti non si devono contestare aprioristicamente (come è istinto naturale) ma devono esser compresi e governati.

Vorrei quindi esaminare il tema sotto tre profili:
1. cosa intendiamo per intelligenza artificiale e come essa si confronta con il nostro mondo del diritto
2. cosa intendiamo per giustizia predittiva
3. quali conclusioni possiamo trarre

Occorre renderci innanzitutto conto che, quando parliamo di AI, parliamo di qualcosa di diverso rispetto a quell'aspetto dell'informatica che più o meno già conosciamo. Si rischia di confondere l'AI con l'informatizzazione che abbiamo già nei nostri Studi, ritenendola un "qualcosa" di più sofisticato, di più costoso e di interesse solo per i grandissimi Studi internazionali. In realtà così non è.

La nascita dell'Intelligenza Artificiale viene ricondotta alla pubblicazione di una proposta di ricerca per l'estate del 1956 al Dartmouth College, di Hanover nel New Hampshire da parte di John McCarthy, Marvin L. Minsky, Nathaniel Rochester, e Claude E. Shannon. I quattro studiosi muovevano dalla congettura secondo la quale ogni aspetto dell'apprendimento e ogni altra caratteristica dell'intelligenza potesse, in linea di principio, essere descritto con tale precisione che una macchina potesse essere programmata per simularli. Il concetto fondante la ricerca è l'interesse per lo sviluppo di una macchina in grado di riprodurre il funzionamento della mente umana e, per conseguenza, le sue funzioni cognitive.

L'inizio non è stato promettente e gli esperti parlano di quel primo periodo come l'inverno dell'intelligenza artificiale. Fino a quando non si sono accumulati tanti dati e fino a quando non si è riusciti a creare una grande potenza di calcolo da far sì che quegli algoritmi fossero in grado di funzionare. L'intelligenza artificiale è una sorta di fuoco che brucia una materia fossile molto strana che sono i nostri dati. Ci sono studi in particolare c'è uno studio di IBM che indica che tutti i dati che l'uomo ha prodotto e conservato all'inizio della sua esistenza sulla terra fino ad oggi per il 90% è stato prodotto negli ultimi due anni.

Si è quindi giunti a quella tipologia di IA definita l'Intelligenza Artificiale Ristretta (o debole, o riproduttiva) che, utilizzando svariati approcci tecnologici, cerca di riprodurre i risultati ottenibili dall'intelligenza umana per singoli compiti, e Intelligenza Artificiale Generale (o forte, o cognitiva, o di livello umano) in cui le macchine sono capaci di vedere, comprendere il linguaggio, apprendere, ragionare.

Viene data la seguente definizione: sistemi software o hardware che elaborano ed interpretano dati acquisiti in tempo reale anche nel proprio ambiente (sensori) e decidono un risultato (ragionamento) anche tradotto in azione tangibile e materiale (sistemi cyberfisici) per raggiungere l'obiettivo dato.

Tale successo è in gran parte dovuto agli importanti avanzamenti ottenuti dalle tecniche di machine learning supportate dall'enorme aumento della capacità computazionale degli elaboratori elettronici e dalla esplosione della disponibilità di dati digitali, sull'analisi dei quali si fonda il funzionamento di tali sistemi. Quello che hanno in comune queste tecnologie è che i loro risultati sono ottenuti con tecniche di programmazione che nulla hanno a che vedere con il funzionamento della mente umana e che non comportano alcuna capacità cognitiva: la macchina, infatti, tratta i dati senza comprenderne l'intimo significato, limitandosi ad ottenere un risultato analogo o migliore rispetto alle prestazioni umane.

Con il deep learning abbiamo processi più sofisticati, a strati, ove le macchine apprendono attraverso la correlazione di una massa enorme di dati. Attraverso il confronto di tali dati, unitamente alla indicazione di coefficienti di distanza ad ogni risultato, la macchina pian piano si avvicina al risultato più corretto.

Anche il mondo giuridico ha dovuto prendere atto dei mutevoli cambiamenti in atto.
Il 3/12/2018, nel corso della sua 31esima Riunione plenaria a Strasburgo, la CEPEJ (European Commission for the Efficiency of Justice) ha ritenuto opportuno redigere la «Carta etica europea sull'utilizzo dell'intelligenza artificiale nei sistemi giudiziari e negli ambiti connessi».

Dando intanto una definizione di intelligenza artificiale nei sistemi giudiziari: l'"insieme di metodi scientifici, teorie e tecniche finalizzate a riprodurre mediante le macchine le capacità cognitive degli esseri umani".

Nel glossario si legge: "gli attuali sviluppi mirano a far svolgere alle macchine compiti complessi precedentemente svolti da esseri umani. Tuttavia l'espressione "intelligenza artificiale" è criticata dagli esperti, che distinguono tra intelligenze artificiali "forti" (capaci di contestualizzare problemi specializzati di varia natura in maniera completamente autonoma) e intelligenze artificiali "deboli" o "moderate" (alte prestazioni nel loro ambito di addestramento). Alcuni esperti sostengono che le intelligenze artificiali "forti", per essere in grado di modellizzare il mondo nella sua interezza, necessiterebbero di progressi significativi della ricerca di base e non soltanto di semplici miglioramenti delle prestazioni dei sistemi esistenti".

Nel Glossario allegato agli "Orientamenti Etici per una IA affidabile" si legge che per AI "s'intende un insieme di «Sistemi software (ed eventualmente hardware) progettati dall'uomo che, dato un obiettivo complesso, agiscono nella dimensione fisica o digitale percependo il proprio ambiente attraverso l'acquisizione di dati, interpretando i dati strutturati o non strutturati raccolti, ragionando sulla conoscenza o elaborando le informazioni derivate da questi dati e decidendo le migliori azioni da intraprendere per raggiungere l'obiettivo dato. I sistemi di IA possono usare regole simboliche o apprendere un modello numerico, e possono anche adattare il loro comportamento analizzando gli effetti che le loro azioni precedenti hanno avuto sull'ambiente. Come disciplina scientifica, l'IA comprende diversi approcci e diverse tecniche, come l'apprendimento automatico (di cui l'apprendimento profondo e l'apprendimento per rinforzo sono esempi specifici), il ragionamento meccanico (che include la pianificazione, la programmazione, la rappresentazione delle conoscenze e il ragionamento, la ricerca e l'ottimizzazione) e la robotica (che comprende il controllo, la percezione, i sensori e gli attuatori e l'integrazione di tutte le altre tecniche nei sistemi ciberfisici)".

Come è facile intuire, quindi, l'intelligenza artificiale non è un concetto stabile e definito nel tempo, ma trattasi di definizione "complessa", che racchiude in sé molteplici significati, per lo più variabili nel tempo.

Perché l'AI è entrata in modo prepotente anche nel mondo giuridico?

Il mercato sta da tempo dando una risposta a tale quesito: la lunghezza dei tempi di giustizia e la certezza del diritto, ossia l'avvertita esigenza della prevedibilità delle sentenze.

Di fronte a tali prepotenti esigenze è chiaro che ha affascinato il mondo giuridico un software come Prometeia, che ha permesso alla Corte Superiore di Giustizia di Buenos Aires di risolvere 1000 casi (ripetitivi) nell'arco di sette giorni (anziché di 83) con un tasso di successo (parametrato alle soluzioni poi effettivamente adottate dai magistrati) del 96% dei casi. Prometeia è stato oggetto di sperimentazione anche presso il Consiglio di Stato di Parigi.

Ed un algoritmo è stato utilizzato nel 2017 dall'università inglese di Sheffield che ha condotto un esperimento su 586 casi giudiziari decisi dalla Corte europea dei diritti dell'Uomo in materia di giusto processo, privacy e trattamenti disumani. Sempre nel 2017 la piattaforma inglese Case Crunch ha condotto la prima competizione tra AI e Avvocati: AI ha vinto con un'accuratezza del 86,6% contro il 62,3% dei legali su casi relativi a proprietà intellettuale discussi davanti al Financial Ombudsman Service.

Nel luglio 2016, in base ad un algoritmo predittivo di valutazione del rischio di recidiva Eric Loomis è stato condannato dalla Corte del Winsconsin, che, all'unanimità, ha dichiarato la legittimità dell'uso giudiziario di algoritmi che misurano il rischio di recidiva specificando, tuttavia, che lo strumento non può essere l'unico elemento su cui si fonda una pronuncia di condanna.

La velocità è diventato un valore prioritario. Anche la velocità della risposta della giustizia. Una sorta di idolo in cui il cittadino crede in modo acritico senza riflettere sulle differenze tra efficienza nella produzione dei manufatti ed efficienza della decisione giurisprudenziale.

Possiamo discutere se la velocità del giudizio sia veramente un valore nel settore Giustizia, ma un fatto è certo: la trasformazione digitale ha profondamente cambiato la vita delle persone negli ultimi anni e continuerà a farlo. Questa trasformazione digitale non è di per sé negativa e potrebbe costituire anche un utile strumento per gli uomini. Come il coltello può tagliare il pane il medesimo coltello può uccidere: è importante come e per quali scopi lo utilizziamo.

E, di fronte alla domanda di velocità della risposta giuridica, il mercato sta proponendo la tecnologia della cd. Giustizia Predittiva e cioè un sistema che consente di prevedere il possibile esito di una controversia sulla base delle precedenti soluzioni date a casi analoghi o simili e mediante l'analisi dei dati immessi nel sistema da parte di un algoritmo.

_____
*A cura dell'Avv. Alberto Del Noce - Avvocato del Foro di Torino, Vicepresidente dell'Unione Nazionale delle Camere Civili e Responsabile della Commissione sull'Intelligenza Artificiale dell'Unione Nazionale delle Camere Civili

Se questo articolo è stato di tuo interesse ma non sei ancora abbonato a NT+ Diritto approfittane subito,prova 1 mese da € 4,90!Scopri di più