Il Garante per la privacy ha fermato Replika, il chatbot statunitense munito di una interfaccia scritta e vocale basata sull’intelligenza artificiale e in grado di generare un “amico virtuale” per l’utente.
Almeno per il momento, il programma non potrà usare i dati personali degli utenti italiani, grazie al blocco con effetto immediato disposto dopo le polemiche dei giorni passati.
In particolare, sotto accusa è il tenore delle risposte fornite dal programma, ritenute assolutamente non adatte al grado di sviluppo dei minori cui lo stesso si rivolge. In particolare aveva destato sensazione il test condotto dall’avvocato Guido Scorza, componente del Collegio del Garante per la protezione dei dati personali, e pubblicato su Repubblica. Le risposte date da Replika su temi delicati erano infatti state definite agghiaccianti, spingendo lo stesso Scorza a condannare senza riserve il funzionamento dell’app. Una condanna cui ora fa seguito il blocco disposto dal Garante della privacy con un provvedimento urgente emesso il 2 febbraio scorso e firmato dal presidente Pasquale Stanzione.
Replika: cosa sta accadendo
La nota emessa nell’occasione dal Garante della privacy è assolutamente chiara: “Alla luce delle recenti notizie stampa e delle prove condotte dall’Autorità su “Replika”, l’applicazione presenta infatti concreti rischi per i minori d’età, a partire dalla proposizione ad essi di risposte assolutamente inidonee al loro grado di sviluppo.” Presentato come un “amico virtuale” in grado di migliorare il benessere emotivo dell’utente, il chatbot all’atto pratico si dimostra invece un pericolo reale, tanto da far lievitare in misura considerevole i rischi a carico dei soggetti che si trovano in una fase di sviluppo o in una condizione di fragilità emotiva.
Se questo è il punto centrale che ha indotto l’autorità a sanzionare Replika, occorre anche sottolineare altri aspetti estremamente pericolosi, a partire dall’assenza di eventuali meccanismi tesi a verificare l’età degli utenti, oltre a quella di blocchi tesi a impedire il contatto con l’utente che abbia esplicitato la sua minore età. In pratica, per aprire un proprio profilo basta consegnare una serie di dati personali, quelli tipici di ogni processo di registrazione.
Per quanto riguarda un ambito delicatissimo, ovvero quello relativo alle risposte fornite dal programma, la sostanza è poi disastrosa. Quelle fornite, infatti, risultano del tutto fuori luogo e in palese contrasto con le tutele rafforzate che dovrebbero sempre essere associate a minori e soggetti fragili.
Senza contare un altro aspetto non meno rilevante: Replika, infatti, andrebbe a violare il Regolamento europeo sulla privacy, non rispettando in alcun modo il principio di trasparenza. Il trattamento dei dati che ne consegue, è assolutamente illecito, andandosi a basare su un contratto che i minorenni non possono ufficializzare.
La decisione del Garante per la privacy è quindi in linea con le premesse: stop nel nel nostro Paese e obbligo di comunicazione entro e non oltre 20 giorni da parte di Luka Inc., l’azienda che propone il chatbot, delle misure varate per il rispetto delle richieste elevate dall’autorità. In assenza di risposte soddisfacenti, l’azienda sarà sottoposta ad una sanzione pari a 20 milioni di euro o tale da arrivare sino al 4% del fatturato globale annuo.
Il precedente di ChatGPT
Il clamore suscitato dalle risposte fornite da Replika non suona del tutto sorprendente. Il tema dei pericoli insiti nell’intelligenza artificiale impostata sui dati estrapolati dal web era già stato sollevato da una recente inchiesta sullo sfruttamento di manodopera in Africa da parte di una società statunitense cui era stato affidato il compito di allenare ChatGPT in modo da allenarlo a riconoscere gli abusi linguistici che sono ormai il pane quotidiano della rete.
Abusi talmente violenti da aver provocato uno stress psicologico elevatissimo a carico dei lavoratori reclutati in Kenya da Sama, per paghe irrisorie, sotto i due dollari all’ora. Il pericolo che i programmi fondati sull’intelligenza artificiale possano assumere comportamenti di questo genere è quindi già conosciuto dalle aziende impegnate nel settore. Proprio per questo motivo occorre fare in modo che il contatto tra chatbot e minori, o soggetti fragili dal punto di vista emotivo, sia condotto con il massimo delle precauzioni possibili.
Seguici sui Social