ChatGPT e a ‘alucinação’ de IA: OpenAI sob escrutínio na Europa

A OpenAI, conhecida por suas inovações em inteligência artificial, enfrenta um desafio legal significativo na União Europeia. A organização de direitos de privacidade noyb apresentou uma reclamação em nome de um indivíduo, destacando a incapacidade do chatbot de IA ChatGPT da OpenAI de corrigir informações incorretas geradas sobre pessoas.

Este problema, muitas vezes referido como ‘alucinação’ de IA, é um fenômeno onde as ferramentas de IA geram dados que são completamente falsos ou enganosos. Isso se torna particularmente problemático quando se trata de informações pessoais, pois entra em conflito com o Regulamento Geral de Proteção de Dados (GDPR) da UE, que estabelece regras estritas sobre o processamento de dados pessoais dos cidadãos da UE.

O GDPR prevê penalidades severas para violações, que podem chegar a 4% do faturamento anual global de uma empresa. Além das multas, os reguladores têm o poder de exigir mudanças operacionais significativas, o que pode afetar a maneira como as ferramentas de IA generativa operam dentro da UE.

A situação se agravou quando a autoridade de proteção de dados da Itália interveio, resultando no breve encerramento do ChatGPT no país em 2023. Agora, a noyb está levando a questão adiante com uma nova reclamação à autoridade austríaca de proteção de dados, representando uma figura pública que teve sua data de nascimento incorretamente gerada pelo ChatGPT.

Sob o GDPR, os cidadãos da UE têm o direito de corrigir informações incorretas sobre eles. No entanto, a noyb alega que a OpenAI falhou em cumprir essa obrigação, recusando-se a corrigir a data de nascimento errada e oferecendo apenas para filtrar ou bloquear os dados em certas circunstâncias.

A política de privacidade da OpenAI permite que os usuários solicitem correções de informações imprecisas, mas também admite que pode não ser possível corrigir todas as imprecisões devido à complexidade técnica dos modelos de IA. Em alguns casos, a OpenAI sugere a remoção completa das informações pessoais do usuário da saída do ChatGPT.

A questão central é que o GDPR não permite que os direitos sejam escolhidos à la carte; os cidadãos têm o direito tanto à retificação quanto à exclusão de seus dados. A noyb argumenta que não é prerrogativa da OpenAI decidir quais direitos estão disponíveis para os usuários.

A reclamação também aborda preocupações de transparência, com a noyb alegando que a OpenAI não consegue identificar a origem dos dados gerados sobre os indivíduos, nem quais dados são armazenados pelo chatbot. Isso é crucial, pois o GDPR concede aos indivíduos o direito de solicitar essas informações através de um Pedido de Acesso ao Assunto (SAR). A OpenAI é acusada de não responder adequadamente ao SAR do reclamante, falhando em divulgar informações sobre os dados processados, suas fontes ou destinatários.

Maartje de Graaf, advogado de proteção de dados da noyb, comentou sobre a reclamação, destacando que a geração de informações falsas sobre indivíduos pode ter consequências graves e que as empresas precisam garantir que seus chatbots cumpram as leis da UE. Este caso destaca o desafio contínuo de equilibrar a inovação em IA com a proteção de dados e a privacidade dos indivíduos na era digital.