Replika, cos’è il chat bot bloccato dal Garante della privacy
Immagine | Pixabay @ Geralt
Replika, chat bot programmato per compiere conversazioni con l’utente come se fosse un amico, è stata bloccata dal Garante per la protezione dei dati personali e non potrà quindi usare i dati personali degli utenti italiani.
Il motivo è che il software basato sull’intelligenza artificiale è considerato pericoloso per i più giovani perché “ha caratteristiche che, intervenendo sull’umore della persona, possono accrescere i rischi per i soggetti ancora in una fase di sviluppo o in stato di fragilità emotiva“. Ma che cos’è Replika?
Replika
L’app, scaricata da milioni di utenti in tutto il mondo, è stata creata nel 2017 da Eugenia Kuyda, cofondatrice e amministratore delegato di Luka, società statunitense di intelligenza artificiale in seguito alla morte del suo migliore amico. Inizialmente era stata pensata per creare una versione virtuale dell’uomo, partendo dalle migliaia di messaggi di testo che si erano scambiati durante la loro amicizia.
Il software poi si è evoluto in un chat bot in grado di interagire, ricordare eventi passati o avere conversazioni completamente nuove in base all’interazione tra l’utente e Replika. Sono infatti gli stessi utenti che devono chattare e interagire con il chat bot per permettergli di conoscerli e comprenderli meglio.
Replika è gratuito ma ha anche una parte accessibile solo su abbonamento, quella che va oltre il rapporto amicale e sblocca il livello romantico o erotico.
Le accuse
Nelle ultime settimane nella sezione delle recensioni degli app store sono comparse decine di commenti di utenti che hanno lamentato comportamenti sessualmente molesti da parte di Replika. Nei commenti c’è anche chi suggerisce che i commenti espliciti servano a convincerli a pagare il livello superiore di abbonamento.
La decisione del Garante
Il Garante della privacy, “alla luce delle recenti notizie stampa e delle prove condotte dall’Autorità su Replika”, ha deciso per lo stop del chat bot perché “presenta concreti rischi per i minori d’età, a partire dalla proposizione ad essi di risposte assolutamente inidonee al loro grado di sviluppo“.
Per il garante “manca peraltro ogni meccanismo di verifica dell’età: filtri per i minori, ma anche blocchi dell’app di fronte a dichiarazioni in cui l’utente espliciti la propria minore età“.
Inoltre Replika viola “il Regolamento europeo sulla privacy, non rispetta il principio di trasparenza ed effettua un trattamento di dati personali illecito, in quanto non può essere basato, anche solo implicitamente, su un contratto che il minorenne è incapace di concludere“.
La società sviluppatrice statunitense, Luka Inc, “oltre a dover interrompere il trattamento dei dati degli utenti italiani“, dovrà comunicare entro 20 giorni le misure intraprese in attuazione di quanto richiesto dal Garante, “pena una sanzione fino a 20 milioni di euro o fino al 4% del fatturato globale annuo“.
