Negli ultimi mesi, l’Autorità Garante della Concorrenza e del Mercato (AGCM) ha aperto quello che può essere considerato, a tutti gli effetti, un nuovo capitolo nell’enforcement delle regole a tutela dei consumatori, concentrando parte della propria attività sui servizi di intelligenza artificiale generativa. È un segnale particolarmente significativo: l’AI non costituisce più soltanto oggetto di dibattito tecnologico, ma diventa un autonomo ambito di enforcement, inserito nel più ampio quadro dell’attenzione dell’Autorità verso i mercati digitali e le asimmetrie informative che li caratterizzano.
In questa direzione si collocano i procedimenti per pratiche commerciali scorrette avviati dall’AGCM e conclusi mediante impegni di natura “strutturale” in materia di trasparenza, progettazione della user experience e gestione del rischio di allucinazioni. La casistica restituisce, nella prospettiva dell’Autorità, l’immagine di modelli generativi che incorporano un rischio intrinseco di produzione di risultati inaccurati o, addirittura, inesistenti o inventati. Se l’utente medio tende infatti a percepire i contenuti generati come corrispondenti alla realtà o comunque corretti, l’asimmetria conoscitiva relativa ai limiti tecnici del modello può tradursi in una pratica ingannevole quando le informazioni sulle allucinazioni risultino assenti, generiche o comunque inadeguate.
I casi valorizzano, quindi, il rischio di informational harm tipico dei sistemi generativi: l’utente tende a sovrastimare accuratezza e affidabilità delle risposte prodotte, mentre il provider conosce (o dovrebbe conoscere) limiti operativi, margini di errore e condizioni di utilizzo del servizio.
In questo contesto, prendendo spunto dall’intervento dell’Autorità, la tutela non opera soltanto ex post, mediante la rettifica di singoli contenuti, ma soprattutto ex ante, attraverso la progettazione dell’interfaccia, la qualità e la prominenza delle avvertenze rivolte al consumatore e la predisposizione di rimedi semplici e immediatamente accessibili in presenza di esiti non affidabili o fuorvianti. La soluzione adottata – grazie agli impegni presentati dalle imprese coinvolte – valorizza pertanto la progettazione dell’esperienza utente: avvertenze comprensibili, collocate in prossimità della generazione delle risposte, modifiche delle condizioni generali e policy accessibili nella lingua dell’utenza si muovono nella direzione di una trasparenza sostanziale, e non meramente documentale.
Sul piano della compliance, gli impegni accolti nei procedimenti delineano un nucleo minimo di obblighi organizzativi e informativi per i servizi di AI rispetto alla disciplina consumeristica.
Il requisito centrale appare rinvenibile nell’obbligo sostanziale di rendere esplicita la possibilità di “allucinazioni” nella generazione dei contenuti e, più in generale, i limiti di affidabilità del servizio. Non si tratta semplicemente di introdurre avvertenze standardizzate o generiche: i disclaimer devono essere prominenti e collocati nel punto esatto in cui l’utente interagisce con il servizio (la chatbox) formulando la richiesta (input) e ricevendo la risposta (output). L’obiettivo perseguito è la prevenzione dei rischi derivanti dall’intrinseca asimmetria informativa tra provider e utente, quantomeno non professionale.
L’AGCM richiede, in particolare, che il consumatore sia posto nella condizione di comprendere, mediante specifici disclaimer visualizzati prima dell’utilizzo, che il contenuto generato ha natura probabilistica e che il sistema non verifica automaticamente la veridicità delle informazioni prodotte.
Alcuni dei casi conclusi valorizzano inoltre l’opportunità di fornire esempi pratici idonei ad aiutare l’utente nell’individuazione degli errori ricorrenti del modello.
Un secondo asse della struttura minima di conformità riguarda la chiarezza circa il ruolo effettivamente svolto dal fornitore, mettendo l’utente in condizione di comprendere chi sviluppa il modello, chi lo distribuisce e chi risponde in caso di malfunzionamenti o contenuti fuorvianti.
In filigrana, l’AGCM torna inoltre su una problematica centrale dei servizi digitali: i dark patterns. Gli impegni rafforzano la visibilità dei comandi destinati alla segnalazione di errori, alla richiesta di riformulazioni e all’accesso a termini e guide d’uso e policy, chiarendo altresì canali e tempi di risposta. La logica sottostante è quella di evitare la creazione di interfacce ingannevoli capaci di disperdere l’attenzione dell’utente e favorire un utilizzo acritico dei contenuti generati.
La checklist operativa che emerge dai casi sinora conclusi appare concreta e immediatamente attuabile: mappare, funzione per funzione, i rischi tipici di allucinazione; riscrivere le avvertenze in linguaggio chiaro, completo e puntuale; utilizzare avvisi dinamici per le risposte riguardanti ambiti particolarmente sensibili (quali salute, diritto e finanza); rendere immediatamente accessibili i comandi per la segnalazione di errori e la richiesta di riformulazioni; documentare il ciclo di aggiornamento dei modelli e delle informative.
Se i procedimenti recentemente conclusi costituiscono per gli operatori un parametro interpretativo significativo ai fini della conformità preventiva rispetto alla normativa consumeristica, essi evidenziano tuttavia anche il rischio di esposizione a ulteriori rischi regolatori.
Sul piano istituzionale, infatti, tali procedimenti hanno fatto emergere una frizione tra AGCM e AGCOM. Quest’ultima ha ritenuto di non rilasciare il parere obbligatorio richiesto ai sensi dal Codice del Consumo, rivendicando una competenza esclusiva con riferimento ai servizi oggetto di istruttoria e sostenendo la necessità di valutare i casi alla luce del Digital Services Act (DSA), piuttosto che della sola disciplina consumeristica.
Tale frizione non è, in realtà, un inedito, ma rappresenta una nuova manifestazione del tradizionale conflitto di competenze tra AGCM e authorities di settore, che oggi si ripropone nel contesto dei servizi digitali e dell’intelligenza artificiale.
Per le imprese, il profilo di rilievo è rappresentato dalle possibili ricadute applicative della riemersione di tale conflitto: la necessità di considerare la sovrapposizione tra obblighi derivanti dal DSA – procedure di gestione dei contenuti, risk assessment sistemico e obblighi di trasparenza – e obblighi consumeristici, nonché il rischio di esposizione a distinti canali di enforcement e, conseguentemente, a una possibile duplicazione del rischio sanzionatorio.
In prospettiva di conformità regolatoria, ciò suggerisce l’opportunità di orientarsi verso l’adozione di programmi “orizzontali”, capaci di integrare governance dei rischi AI, standard di trasparenza e progettazione dell’esperienza utente conformi al Codice del Consumo, ma al contempo allineati ai presidi previsti dal DSA. La prassi applicativa offre infatti indicazioni operative utili per gli operatori, ma lascia al contempo aperti rilevanti interrogativi circa l’estensione dei rischi e il coordinamento tra discipline concorrenti. In questo scenario, la prospettiva della compliance by design sembra assumere una funzione non soltanto preventiva, ma anche di governo dell’incertezza regolatoria, orientando lo sviluppo di servizi di AI più trasparenti, affidabili e comprensibili per gli utilizzatori.
_________
*Maria Rosaria Raspanti, Counsel Studio legale Pavia e Ansaldo
