Forse non tutti si ricordano di Replika, amico virtuale, confidente, terapista, partner romantico e mentore creato per migliorare il benessere emotivo dell'utente e bannato in Italia nel 2023 in quanto considerato pericoloso per i minori. Ebbene, il Garante per la privacy ha ora sanzionato la società americana Luka Inc. che lo gestisce per 5 milioni di euro e, contestualmente, ha avviato una nuova istruttoria per verificare il corretto trattamento dei dati personali utilizzati per addestrare il modello di intelligenza artificiale generativa su cui si basa il chatbot.
Il Garante ha "accertato la violazione delle disposizioni contestate nel febbraio 2023, quando aveva disposto il blocco dell'applicazione":
- le modalità di trattamento dei dati personali non presentano basi giuridiche
- la politica sulla privacy è inadeguata
Al 2 febbraio 2023 Luka "non prevedeva alcun meccanismo per la verifica dell'età degli utenti, né all'atto della registrazione al servizio, né durante il suo utilizzo, benché la società dichiarasse di escludere i minorenni tra i potenziali utenti". Gli accertamenti tecnici effettuati dal Garante hanno evidenziato un sistema di verifica dell'età del tutto inadeguato.
Luka Inc. dovrà ora fornire chiarimenti sul trattamento dei dati lungo l'intero ciclo di vita del sistema di intelligenza artificiale generativa utilizzato per Replica:
In particolare, riguardo alla valutazione dei rischi e alle misure adottate per tutelare i dati nelle varie fasi di sviluppo e addestramento del modello linguistico alla base di “Replika”, alle tipologie e categorie di dati utilizzati, all’eventuale implementazione di misure di anonimizzazione o pseudonimizzazione.
HONOR 200 in offerta: a meno di 250€ diventa il best buy di oggi