Autoridades italianas anunciaram nesta sexta-feira o bloqueio do chatbot ChatGPT, acusado de não respeitar a legislação sobre dados pessoais e de carecer de um sistema de verificação da idade dos usuários menores.
A autoridade nacional de proteção de dados informou que a decisão tinha “efeito imediato” e acusou o chatbot de não respeitar as regras europeias e não verificar a idade dos usuários menores. Esta decisão terá como consequência “a limitação provisória do tratamento dos dados dos usuários italianos pela OpenAI”, sociedade americana criadora do ChatGPT, acrescentou.
Lançado em novembro, o ChatGPT foi rapidamente adotado por usuários impressionados com sua capacidade de responder claramente a perguntas difíceis, escrever sonetos e até passar em exames.
Questionado pela AFP, um porta-voz da OpenAI afirmou que o chat estava “desativado para os usuários na Itália”, em respeito à decisão da autoridade de dados, mas defendeu que a empresa “está preocupada com a proteção de dados” e considera que respeita a regulamentação europeia sobre o assunto.
“Trabalhamos ativamente para reduzir os dados pessoais no treinamento da nossa inteligência artificial (IA). Acreditamos que uma regulamentação da IA é necessária, e esperamos trabalhar neste sentido com a Autoridade”, disse o porta-voz da empresa.
– Ameaça de sanção económica –
A autoridade italiana ressaltou que o ChatGPT “sofreu, em 20 de março, uma perda de dados (data breach) sobre as conversas dos usuários e as informações relativas ao pagamento dos clientes do serviço de assinatura”. Após as primeiras notificações sobre o problema, a OpenAI interrompeu brevemente o serviço e reconheceu uma falha em uma ferramenta externa, que afetou 1,2% dos assinantes e um número indefinido de usuários gratuitos.
O órgão de vigilância criticou a “falta de uma nota informativa para os usuários, cujos dados são coletados pela OpenAI, mas, sobretudo, pela ausência de uma base jurídica que justifique a coleta e a conservação em massa dos dados pessoais, com o objetivo de ‘treinar’ os algoritmos que fazem a plataforma funcionar”.
Além disso, embora o robô seja destinado a maiores de 13 anos, “a autoridade destaca que a ausência de qualquer filtro para verificar a idade dos usuários expõe os menores a respostas que não estão, em absoluto, em conformidade com seu nível de desenvolvimento”.
A entidade pede à OpenAI que “comunique, em um prazo de 20 dias, as medidas adotadas” para remediar esta situação, “sob pena de multa até 20 milhões de euros (US$ 21,75 milhões), ou até 4% do volume de negócios mundial anual”.
Este anúncio surge depois de a agência policial europeia (Europol) alertar, na segunda-feira, que os criminosos estavam dispostos a tirar proveito da Inteligência Artificial, como o chatbot ChatGPT, para cometer fraudes e outros crimes cibernéticos.
– Regulamentação da IA –
O ChatGPT é financiado pela gigante da informática Microsoft, que o adicionou aos seus serviços e se apresenta como um potencial concorrente do motor de busca do Google.
No mês passado, a agência de proteção de dados da Itália também proibiu a empresa de inteligência artificial Replika de usar dados pessoais de usuários italianos, porque oferece bate-papo com avatares personalizados que falam e ouvem. Alguns usuários reclamaram de receberem mensagens e imagens muito ousadas, no limite do assédio sexual.
O Regulamento Europeu de Proteção de Dados (GDPR, na sigla em inglês), que vem impondo bilhões de dólares em multas para gigantes da tecnologia, pode se tornar o maior inimigo, no Velho Continente, das novas IAs geradoras de conteúdo.
A União Europeia está preparando um projeto de lei para regulamentar a inteligência artificial, que pode ficar pronto até o final de 2023, ou início de 2024, e ser aplicado em alguns anos.
AFP