Trasparenza algoritmica, controllo istituzionale e fiducia contrattuale nell’era dell’IA

Il titolo di questo articolo, AI Trasparente, è al tempo stesso ambizioso e insidioso. Ambizioso perché la trasparenza algoritmica è davvero la condizione necessaria per costruire fiducia nell’era digitale. Insidioso perché il termine “trasparenza” viene ripetuto così spesso, in così tanti documenti - leggi, linee guida, codici etici aziendali - da rischiare di perdere qualsiasi contenuto prescrittivo.

Quando parliamo di intelligenza artificiale trasparente, non stiamo discutendo soltanto di una tecnologia più comprensibile. Stiamo discutendo di una questione molto più profonda: chi governa il potere algoritmico, con quali limiti, con quali garanzie, e nell’interesse di chi.

Perché la trasparenza, in questa stagione, non è un ornamento regolatorio. Non è una clausola di stile. È la condizione minima affinché l’innovazione non degeneri in opacità di sistema. E dove l’opacità cresce, la fiducia arretra.

Noi siamo entrati in un tempo in cui il rischio non è soltanto che la macchina sbagli. Il rischio è che la macchina decida, orienti, suggerisca, selezioni, filtri, gerarchizzi, senza che il cittadino, il professionista e talvolta neppure l’istituzione capiscano davvero come quel risultato sia stato prodotto. È qui che nasce il problema democratico dell’intelligenza artificiale. Ed è qui che il diritto deve tornare a fare il suo mestiere: non inseguire passivamente la tecnica, ma darle forma, limiti e responsabilità.

La trasparenza non è una parola, è una struttura. E quella struttura va costruita su due piani distinti ma comunicanti, che nel mio intervento intendo analizzare separatamente: il piano del diritto pubblico, dove la trasparenza riguarda il modo in cui le istituzioni adottano e controllano i sistemi di IA; e il piano del diritto privato, dove la trasparenza riguarda il modo in cui i contratti vengono formati e i diritti della persona vengono rispettati o compressi nelle relazioni digitali.

Questi due piani non sono paralleli: si intersecano, e il caso Copilot nei tribunali italiani ne è la dimostrazione più eloquente. Ma prima di arrivarci, è necessario capire cosa la legge dice, e cosa non dice, sul concetto di trasparenza.

La Legge 23 settembre 2025, n. 132 pone la trasparenza tra i principi fondanti del sistema. L’art. 3, comma 3 stabilisce chei sistemi e i modelli di IA devono essere sviluppati e applicati nel rispetto della conoscibilità, della trasparenza, della spiegabilità, assicurando la sorveglianza e l’intervento umano. L’art. 14, in tema di PA, aggiunge che le pubbliche amministrazioni devono assicurare agli interessati la conoscibilità del funzionamento e la tracciabilità dell’utilizzo dei sistemi IA.

Sul piano delle autorità, la legge designa due soggetti: l’Agenzia per l’Italia Digitale (AgID), cui è affidata la promozione dell’innovazione, e la gestione dei processi di notifica, valutazione, accreditamento e monitoraggio dei soggetti incaricati di verificare la conformità dei sistemi; e l’Agenzia per la Cybersicurezza Nazionale (ACN), responsabile per la vigilanza, incluse le attività ispettive e sanzionatorie.

Questa architettura risponde a una logica di specializzazione funzionale, separando la funzione promozionale da quella di controllo. Ma essa presenta anche una lacuna strutturale che va nominata con chiarezza: né l’AgID né l’ACN sono autorità davvero indipendenti. La prima è un’agenzia governativa sotto la Presidenza del Consiglio; la seconda, pur avendo caratteristiche più spiccatamente autonome, è anch’essa strutturalmente collegata all’esecutivo. Come ha osservato la dottrina più attenta, l’efficacia del nuovo impianto dipenderà dalla capacità di colmare le aree ancora grigie, come l’assenza di un’autorità davvero indipendente e la definizione di procedure di ricorso contro decisioni automatizzate.

Quando si parla di sistemi IA in ambito istituzionale occorre precisare cosa significa concretamente trasparenza. La risposta è che non esiste una sola trasparenza, ma almeno quattro livelli distinti, che è necessario non confondere.

Solo tenendo insieme questi livelli possiamo parlare seriamente di trasparenza istituzionale.

La Legge 132/2025 abbozza i primi due livelli, lascia quasi del tutto scoperto il terzo, e affida il quarto a un sistema istituzionale - AgID e ACN - che, come detto, non è strutturalmente indipendente dall’esecutivo. È un punto di partenza, non un punto di arrivo.

Il 1° gennaio 2026 i magistrati italiani si sono trovati Copilot - il sistema di IA generativa di Microsoft integrato nel pacchetto Office 365 - attivato sui propri dispositivi istituzionali. Ciò è avvenuto senza adeguata preparazione preventiva né governance condivisa. L’innovazione era inaspettata e non preceduta da percorsi formativi strutturati.

La domanda che questo caso pone al legislatore e alle istituzioni è: la trasparenza algoritmica può essere garantita da chi è allo stesso tempo autore della scelta tecnologica, gestore del sistema e controllore della sua correttezza? La risposta del diritto costituzionale è no. E la risposta del buon senso è la medesima.

L’argomento più seducente dell’AI è noto: velocità, produttività, standardizzazione, riduzione dei tempi. E nessuno può negare che, anche nel settore giustizia, il bisogno di efficienza esista. I dati ufficiali del Ministero mostrano che il monitoraggio trimestrale continua a registrare pressioni molto forti sul sistema: al primo semestre 2025 le pendenze civili complessive risultano in lieve diminuzione rispetto al 2024 (-0,7%), mentre l’arretrato civile continua a ridursi, con -4,4% in Cassazione, -7,3% nelle Corti d’appello e -7% nei Tribunali. Sono dati importanti, ma ci dicono anche una cosa precisa: la modernizzazione della giustizia è una necessità reale, non una moda.

Tuttavia, proprio perché il problema dell’efficienza è serio, non possiamo permetterci soluzioni ingenue. L’efficienza, da sola, non produce fiducia. La fiducia nasce solo quando il potere che agisce può essere controllato, compreso, contestato.

Nel processo non basta il risultato. Conta il percorso. Lo Stato di diritto non si accontenta della decisione; pretende la motivazione, la controllabilità, la possibilità di critica.

Per questo io credo che il punto decisivo non sia essere “pro” o “contro” l’AI nei tribunali. Il punto è un altro: a quali condizioni un sistema di AI può entrare nella giustizia senza alterarne i presupposti costituzionali.

Se il sistema è opaco, la risposta è semplice: non può.

Perché una giurisdizione alimentata da strumenti non trasparenti finirebbe, poco per volta, per trasferire autorità cognitiva a soggetti esterni al processo: fornitori privati, modelli addestrati altrove, infrastrutture tecniche non accessibili, logiche proprietarie non ispezionabili. E questo, in un ordinamento fondato su legalità, contraddittorio, difesa e motivazione, rappresenta un rischio sistemico.

L’AI può sostenere attività seriali, organizzative, ricognitive, ma diventa critica quando influenza il modo in cui il decisore costruisce il proprio convincimento. Occorre spostare la discussione dal fascino dell’innovazione alla responsabilità della governance.

Noi non abbiamo bisogno soltanto di autorizzare o vietare singoli strumenti. Abbiamo bisogno di costruire un modello pubblico di monitoraggio continuo. Che cosa significa, concretamente?

Significa che ogni sistema di AI utilizzato in ambito giudiziario o amministrativo sensibile dovrebbe essere sottoposto non a un controllo iniziale e poi dimenticato, ma a una vigilanza permanente, strutturata, multilivello.

Io immagino almeno sei pilastri:

1) un registro pubblico dei sistemi impiegati, con indicazione della funzione, della base giuridica, della tipologia dei dati trattati, dei margini di autonomia, delle sedi di conservazione dei dati, dei soggetti che possono accedervi, delle misure di sicurezza e dei limiti d’uso;

2) un sistema obbligatorio di audit periodici indipendenti, non solo sulla sicurezza informatica, ma anche su accuratezza, bias, tassi di errore, deriva funzionale e impatto organizzativo;

3) la redazione e l’aggiornamento di registri FAT (Fairness, Accuracy, Transparency) o equivalenti, che consentano di verificare nel tempo fairness, accuracy e transparency del sistema, non in astratto ma nell’uso concreto;

4) la previsione di un effettivo diritto di contestazione dell’output, soprattutto quando il sistema incide su attività istruttorie, selettive, classificatorie o valutative.

5) il coinvolgimento stabile dell’avvocatura nel processo di valutazione dell’impatto, perché la parità informativa tra giudice e difesa è una condizione del giusto processo, non una cortesia istituzionale.

6) un sistema di incident reporting obbligatorio, sul modello dei monitoraggi internazionali, per raccogliere errori, disfunzioni, output patologici, casi di bias, falsi positivi, effetti distorsivi e uso improprio. Senza memoria pubblica degli incidenti, non esiste apprendimento istituzionale.

Utile sarebbe una sandbox regolatoria condivisa tra Ministero della Giustizia, CSM e avvocatura organizzata, per sperimentare i nuovi sistemi prima della loro implementazione generalizzata. L’AI Act prevede proprio questi spazi.

Sul punto, va tra l’altro ricordato che il Regolamento UE 2024/1689 prevede che i soggetti che utilizzano sistemi IA ad alto rischio - in particolare organismi di diritto pubblico - effettuino una valutazione d’impatto sui diritti fondamentali (FRIA) prima di utilizzare il sistema. Nel caso Copilot, questa valutazione non è stata resa pubblica prima dell’attivazione del 1° gennaio 2026. La proposta è che la FRIA, per i sistemi IA nella giustizia, sia un atto pubblico, sottoposto a consultazione preventiva obbligatoria con CSM, Garante Privacy e avvocatura organizzata.

Il controllo sull’AI non può essere statico. Perché l’AI non è statica. Apprende, viene aggiornata, cambia prestazioni, cambia contesto, cambia effetti.

Vengo al tema istituzionale. Spesso si parla genericamente di “nuova authority”. Io credo che la domanda vada posta in modo più preciso.

Oggi il quadro della governance è frammentato. Sul piano nazionale la cornice italiana si appoggia ad AgID e ACN; sul piano dei diritti fondamentali, in attuazione dell’art. 77 AI Act, l’Italia ha individuato una pluralità di autorità competenti - GPDP, AGCM, AGCOM, Garante dei detenuti, Garante per la disabilità - con poteri di accesso, cooperazione e vigilanza rispetto ai sistemi di IA ad alto rischio. È un assetto importante, ma disperso. E la dispersione, quando la tecnologia corre, produce zone grigie.

Per questo ritengo necessario un presidio nazionale specializzato, un’autorità di supervisione davvero indipendente dall’esecutivo, con poteri istruttori e sanzionatori, competente per i sistemi IA ad alto rischio in tutti i settori a rilevanza pubblicistica. Un’autorità sul modello del Garante Privacy - indipendente, con competenze tecniche multidisciplinari, accessibile alle parti interessate. Con tre funzioni essenziali:

1. coordinare le competenze oggi distribuite;

2. definire protocolli uniformi di audit, trasparenza e monitoraggio;

3. esercitare una vigilanza specialistica sui sistemi di AI utilizzati in contesti ad alta incidenza sui diritti.

Non serve un altro ente decorativo. Serve un soggetto capace di intervenire davvero. Un soggetto che possa chiedere documentazione, imporre test, segnalare criticità, ordinare sospensioni, pretendere tracciabilità, dialogare con il Ministero, con il CSM, con le autorità indipendenti e con le rappresentanze dell’avvocatura.

Il caso Copilot ci mostra nel modo più concreto dove i due piani si incontrano: il contratto tra il Ministero della Giustizia e Microsoft è un atto di diritto privato. Ma è anche lo strumento attraverso cui una scelta istituzionale produce effetti su diritti fondamentali. Le stesse patologie di opacità che descriveremo nei contratti delle piattaforme si ripresentano identiche quando lo Stato è la parte contraente debole di fronte a un grande operatore digitale.

Passando al secondo piano, occorre porre in evidenza come la contrattazione digitale non sia semplicemente una versione elettronica del contratto tradizionale. Essa segna una trasformazione della struttura stessa dell’autonomia privata: il contratto non è più un atto tra parti che si incontrano consapevolmente, ma un processo che si svolge all’interno di ambienti preconfigurati, dove una delle parti - tecnologicamente ed economicamente dominante - determina non solo il contenuto delle clausole, ma anche le modalità stesse della loro percezione e accettazione.

Questo mutamento di paradigma è stato lucidamente descritto dalle giuriste americane Eliza Mik e Chunlin Leonhard, che già nel 2016 e nel 2017 avevano posto la domanda provocatoria: ha ancora senso parlare di vizio della volontà e del consenso nella contrattazione digitale? La loro risposta - che condivido pienamente - è che il consenso digitale è diventato una finzione giuridica di tipo particolarmente pericoloso: non perché sia una finzione come tante, ma perché è priva di quei meccanismi interni di allerta che di solito attivano nel giudice il pensiero deliberato e critico.

Nella contrattazione digitale noi stiamo assistendo a una trasformazione silenziosa dell’autonomia privata. Ed è qui che il diritto privato incontra la sua sfida più radicale: non siamo più davanti soltanto aclausole imposte, ma a contesti progettati per orientare la volontà. Il contratto non è più soltanto predisposto; è architettato. Non ci troviamo più davanti a semplici condizioni generali sfavorevoli, ma a interi ambienti negoziali costruiti per orientare il comportamento dell’utente.

E allora la trasparenza, anche qui, non può essere ridotta alla leggibilità grammaticale di una clausola.

L’utente deve sapere:

Come appena scritto, la trasparenza non può più essere ridotta alla chiarezza linguistica delle clausole. Questa è una trasparenza formale, e la giurisprudenza europea ha già superato questa impostazione: la CGUE con la sentenza C-452/18 ha chiarito che il requisito di trasparenza impone al professionista di mettere il consumatore in grado di comprendere le conseguenze economiche che derivano nei suoi confronti da una determinata clausola. Anche la Cassazione civile ha recepito pienamente questi principi, affermando che le clausole redatte in modo non chiaro e comprensibile possono essere qualificate vessatorie o abusive anche ove concernano la stessa determinazione dell’oggetto del contratto.

La trasparenza sostanziale nel contratto digitale richiede qualcosa di più: la trasparenza dell’intero ambiente negoziale, comprensiva delle modalità attraverso le quali la decisione dell’utente viene sollecitata e guidata. Si possono individuare almeno cinque dimensioni di questa trasparenza sostanziale.

Se tali dimensioni risultano già sottoposte a tensione nella contrattualistica ordinaria, è nelle condizioni generali di contratto delle grandi piattaforme digitali che esse trovano il loro banco di prova più critico e permanente, divenendo il terreno quotidiano su cui si misura, in concreto, la qualità della trasparenza negoziale. Documenti lunghi decine di pagine, in linguaggio impenetrabile, modificabili unilateralmente con preavvisi minimi, e sui quali l’utente non ha alcuna possibilità reale di negoziazione.

Il problema strutturale è che la disciplina dell’art. 1341 c.c. -la doppia sottoscrizione delle clausole onerose - è nata per un’epoca cartacea. Il click su “Accetto” è oggetto di seri dubbi di compatibilità con i principi fondamentali del diritto contrattuale.

L’AI trasparente non è quella che si autoproclama etica. È quella che accetta il controllo.

Non basta dire che l’uomo resta al centro. Bisogna stabilire

Se non faremo questo, l’algoritmo entrerà nelle istituzioni e nei mercati come una forza opaca, apparentemente efficiente ma sostanzialmente irresponsabile.

Se invece avremo il coraggio di costruire una governance seria - audit, registri, monitoraggio continuo, presidio istituzionale specializzato, trasparenza contrattuale reale, coinvolgimento dell’avvocatura e tutela effettiva del cittadino - allora l’intelligenza artificiale potrà diventare uno strumento utile, e non un nuovo sovrano invisibile.

La fiducia nell’era algoritmica non nasce dalla potenza del software. Nasce dalla forza delle garanzie.

Anche l’avvocatura è chiamata a presidiare questo confine. Non come parte resistente all’innovazione - sarebbe un errore storico. Ma come garante della persona nei rapporti con i sistemi che la governano.
Perché la libertà, come ho scritto a Firenze, non è un dato: è una conquista.

________

*Avv. Alberto Del Noce, Presidente - Unione Nazionale Camere Civili (UNCC)