L'Italia vieta l'utilizzo di dati personali al chatbot Replika con sede negli Stati Uniti

L'Agenzia italiana per la protezione dei dati ha dichiarato venerdì che sta vietando alla società di chatbot di intelligenza artificiale (AI) Replika di utilizzare i dati personali degli utenti italiani, citando i rischi per i minori e le persone emotivamente fragili.

Replika, una startup di San Francisco lanciata nel 2017, offre agli utenti avatar personalizzati che parlano e li ascoltano.

Ha aperto la strada tra gli anglofoni ed è gratuito, anche se genera circa $ 2 milioni di entrate mensili dalla vendita di funzionalità bonus come le chat vocali.

L'"amico virtuale" è commercializzato come in grado di migliorare il benessere emotivo dell'utente.

Ma l'Osservatorio italiano ha affermato che intervenendo sull'umore dell'utente "può aumentare i rischi per individui ancora in fase di sviluppo o in uno stato di fragilità emotiva".

Jen Persson, direttore del gruppo di difesa della privacy dei bambini Defend Digital Me, ha dichiarato a Reuters che gli strumenti progettati per influenzare l'umore o il benessere mentale di un bambino dovrebbero essere classificati come prodotti per la salute e dovrebbero quindi essere soggetti a rigorosi standard di sicurezza.

"Questi strumenti vengono utilizzati con i bambini senza molta supervisione o protezione da potenziali abusi", ha affermato.

I regolatori italiani hanno evidenziato l'assenza di un meccanismo di verifica dell'età, come filtri per i minori o un dispositivo di blocco se gli utenti non dichiarano esplicitamente la loro età.

Replika viola il regolamento europeo sulla privacy e tratta i dati personali illecitamente in quanto non può basarsi, nemmeno implicitamente, su un contratto che un minore non è in grado di firmare, ha affermato il watchdog.

Replika non ha risposto immediatamente a un'e-mail di Reuters che chiedeva un commento.

Robert Grosvenor, amministratore delegato della società di consulenza Alvarez & Marsal, ha affermato che è improbabile che il cane da guardia italiano sia l'unico regolatore europeo a prendere in considerazione un'azione contro società come Replika.

"Sebbene la verifica dell'età possa fornire mezzi per proteggere alcuni dei gruppi più vulnerabili, non affronta i rischi e i danni che i servizi e le soluzioni basati sull'intelligenza artificiale possono sollevare se non regolamentati, in termini di potenziale pregiudizio e discriminazione involontari", ha affermato. .

Lo sviluppatore di Replika, la società statunitense Luka Inc, deve notificare all'autorità italiana le misure adottate per implementare i suoi requisiti entro 20 giorni e potrebbe essere multato fino a 20 milioni di euro ($ 21,80 milioni), o fino al 4% del suo fatturato annuo globale, la dichiarazione disse.