Data protection e intelligenza artificiale - Il Garante impone lo stop alla chatbot "Replika", rischiosa per i minori
Il sistema, basato su un contratto che il minore è incapace di concludere, non prevede alcuna procedura di verifica e controllo dell'età dell'utente
Replika è una chatbot, con interfaccia scritta e vocale, basata sull'intelligenza artificiale che simula il comportamento umano e crea un'esperienza di conversazione personalizzata, generando un "amico virtuale" che l'utente può decidere di configurare come amico, partner romantico o mentore.
Nel sito web dello sviluppatore, nonché dei due principali "App store", Replika viene presentata come una chatbot in grado di migliorare l'umore e il benessere emotivo dell'utente, aiutandolo a comprendere i suoi pensieri e i suoi sentimenti, a tenere traccia del suo umore, ad apprendere capacità di coping (ossia, di controllo dello stress) a calmare l'ansia e a lavorare verso obiettivi come il pensiero positivo, la gestione dello stress, la socializzazione e la ricerca dell'amore.
Non sono certamente queste le caratteristiche che hanno portato alla censura da parte dell'Autorità Garante per la protezione dei dati personali, il cui provvedimento di sospensione impone alla società sviluppatrice di cessare il trattamento dei dati degli utenti e di adottare misure correttive per non incorrere in sanzioni più gravi. In effetti, sin dall'antichità l'uomo ha sperimentato pratiche per la ricerca del benessere, inteso come "lo stato emotivo, mentale, fisico, sociale e spirituale di ben-essere che consente alle persone di raggiungere e mantenere il loro potenziale personale nella società", secondo la definizione della Commissione Salute dell'Osservatorio Europeo sui Sistemi e sulle Politiche Sanitarie.
Ed è sicuramente lecito anche oggi, considerato il livello di sviluppo delle nuove tecnologie, predisporre strumenti digitali di supporto all'altrui ricerca di benessere.
Alcune persone pensano che il benessere sia una condizione che si possa raggiungere soltanto da soli, per altri che serva un maestro o un altro tipo di guida, per altri ancora che ci si possa aiutare con rimedi naturali, con l'alimentazione sana, i benefici dello sport e della meditazione e molto altro ancora. Quindi, perché non attraverso nuove tecnologie? Perché non poter migliorare il proprio benessere attraverso l'intelligenza artificiale?
Se pensiamo che lo stato emotivo, mentale, fisico, sociale e spirituale di benessere possa esser costruito e mantenuto attraverso l'uso della razionalità, intesa come capacità di calcolo, allora meglio affidarsi agli algoritmi intelligenti, in grado di elaborare velocemente mole di dati impensabile per noi umani.
Se invece pensiamo che tale condizione possa esser raggiunta dopo una passeggiata nei boschi o in riva al mare, dopo esser stati a un concerto o allo stadio, dopo aver abbracciato un amico o ascoltato i suoi progetti di vita futura, allora possiamo comprendere quale sia il potere agentivo delle nuove tecnologie, capaci di costituire relazioni intellettuali e sociali orientando il nostro comportamento.
Non possiamo sottovalutare l'impatto che le nuove tecnologie hanno sul modo di "vivere noi stessi" e il mondo che ci circonda, producendo sia rischi che potenzialità positive. La difficoltà sta nel districarsi consapevolmente tra rischi e benefici, cercando di allontanare gli uni e di non perdere gli altri. In entrambi i casi si corre un pericolo.
Va da sé che il provvedimento del Garante non affronta expressis verbis questo tema, non è il suo compito. Si preoccupa fondatamente delle implicazioni riguardo l'adeguata verifica dell'età degli utenti per consentire o negare l'accesso a servizi e contenuti sul web.
Nei fatti, i termini di servizio pubblicati nel sito web dello sviluppatore di Replika (aggiornati al 14 settembre 2022) indicano un divieto di utilizzo per i minori di 13 anni e l'esigenza che i minori di 18 anni siano previamente autorizzati da un genitore o da un tutore. Tuttavia, durante la fase di creazione di un account la piattaforma non prevede alcuna procedura di verifica e controllo dell'età dell'utente. Il sistema chiede solamente nome, e-mail e genere.
L'assenza di meccanismi di interdizione o blocco anche a fronte di dichiarazioni dell'utente che esplicitino la sua minore età e la presenza di commenti da parte di utenti che lamentano contenuti sessualmente inopportuni forniti dalla chatbot Replika hanno spinto il Garante a disporre, con provvedimento d'urgenza, la misura della limitazione provvisoria del trattamento dei dati personali degli utenti stabiliti nel territorio italiano.
Secondo l'Autorità, Replika viola il Regolamento europeo sulla privacy, non rispetta il principio di trasparenza ed effettua un trattamento di dati personali illecito, in quanto non può essere basato su un contratto che il minorenne è incapace di concludere.
Ebbene, se possiamo, e dobbiamo, esser soddisfatti perché l'autorità pubblica ha puntualmente vigilato sul rispetto delle regole in materia di trattamento dati, impedendo alla chatbot di proporre a minori contenuti assolutamente inidonei rispetto al loro grado di sviluppo e di consapevolezza, il tema resta aperto: quando saranno superate le mancanze oggi riscontrate circa le procedure di controllo dell'età, quando sarà raggiunta la conformità rispetto al quadro regolatorio formale, come si potrà vigilare rispetto a tutti i soggetti che versano in stato di fragilità emotiva?
La protezione dei dati personali è protezione della persona, nei suoi diritti e libertà fondamentali, nella su integrità psico-fisica, spesso minata da un utilizzo poco consapevole del digitale e delle tecnologie emergenti nonché dalla mancanza di una componente etica condivisa.
_____
*A cura dell'Avv. Gianluca Fasano, Istituto di Ricerca ISTC-CNR
