Itália proíbe chatbot norte-americano Replika de usar dados pessoais

MILÃO, Itália (Reuters) - A Agência de Proteção de Dados da Itália disse nesta sexta-feira que proibiu a empresa de inteligência artificial Replika de usar dados pessoais de usuários italianos em seu chatbot, citando riscos para menores e pessoas emocionalmente frágeis.

A Replika, uma startup norte-americana lançada em 2017, oferece aos clientes avatares personalizados que falam e ouvem. O chatbot despontou entre os falantes de inglês e é gratuito, embora gere cerca de 2 milhões de dólares em receita mensal com a venda de recursos, como chats de voz.

O "amigo virtual" é comercializado como capaz de melhorar o bem-estar emocional do usuário.

Mas o regulador italiano disse que, ao intervir no humor do usuário, "pode ​​aumentar os riscos para indivíduos ainda em estágio de desenvolvimento ou em estado de fragilidade emocional".

A agência também apontou a ausência de um mecanismo de verificação de idade, como filtros para menores ou um dispositivo de bloqueio se os usuários não declararem explicitamente sua idade.

A Replika viola os regulamentos europeus de privacidade e processa dados pessoais ilegalmente, pois não pode se basear, mesmo implicitamente, em um contrato que um menor não possa assinar, disse o órgão de vigilância.

A desenvolvedora da Replika, a empresa norte-americana Luka, deverá notificar a autoridade italiana sobre as medidas tomadas para implementar as medidas de segurança em 20 dias e pode ser multada em até 20 milhões de euros, ou até 4% de seu faturamento anual global.

A Replika não comentou o assunto.