IA Gemini do Google gera conteúdo ofensivo e discriminatório e CEO pede desculpas

Vitor Virtuoso Tecnologia 28 Fevereiro 2024

goopichal

O Google, a maior empresa de tecnologia do mundo, reconheceu que sua inteligência artificial Gemini, que é capaz de gerar conteúdo multimodal a partir de texto e imagem, apresenta erros de diversidade e inclusão, que podem gerar resultados ofensivos ou discriminatórios para alguns grupos de usuários. O CEO do Google, Sundar Pichai, enviou um memorando interno para os funcionários da empresa, no qual ele se desculpa pelos erros e afirma que eles são "completamente inaceitáveis".

"Nossa missão de organizar as informações do mundo e torná-las universalmente acessíveis e úteis é sacrossanta. Esta tem de ser a nossa abordagem para todos os nossos produtos, incluindo os nossos produtos emergentes de IA", escreveu Pichai. "Infelizmente, descobrimos que nossa IA Gemini não está alinhada com esses princípios, e que ela pode produzir conteúdo que é enviesado, estereotipado, insensível ou até mesmo ofensivo para algumas pessoas e comunidades."

Pichai disse que o Google está investigando as causas dos erros de diversidade da Gemini, e que eles podem estar relacionados à qualidade e à representatividade dos dados usados para treinar o modelo de IA, bem como à falta de supervisão e de testes rigorosos do produto antes de seu lançamento. Ele também disse que o Google está tomando medidas imediatas para corrigir os problemas, como:

- Suspender temporariamente o acesso público à Gemini, até que ela seja revisada e aprimorada;
- Criar uma equipe multidisciplinar e diversa, que inclua especialistas em ética, direitos humanos, justiça social e linguística, para avaliar e melhorar a Gemini;
- Estabelecer novos padrões e protocolos de qualidade, segurança e responsabilidade para a Gemini e para outras IAs do Google;
- Oferecer treinamento e orientação para os desenvolvedores e os usuários da Gemini, sobre como usar a IA de forma ética e respeitosa;
- Pedir desculpas e reparar os danos causados aos usuários afetados pelos erros da Gemini.

Pichai disse que o Google está comprometido em construir uma IA que seja justa, inclusiva e benéfica para todos, e que ele espera que a Gemini se torne um exemplo de como a IA pode ser usada para potencializar a criatividade e a produtividade das pessoas, sem prejudicar ou excluir ninguém.

"O Google sempre foi uma empresa que se orgulha de sua inovação e de sua capacidade de resolver problemas complexos. Mas também somos uma empresa que se preocupa com as pessoas e com o impacto que nossos produtos têm na sociedade. A Gemini é um produto incrível, que pode ajudar milhões de pessoas a criar conteúdo criativo, como poemas, histórias, código, músicas, paródias de celebridades e muito mais, usando suas próprias palavras e conhecimento. Mas ela também é um produto que precisa ser melhorado, para que ela reflita e respeite a diversidade e a dignidade de todos os nossos usuários. Estamos trabalhando duro para fazer isso acontecer, e contamos com o apoio e a compreensão de todos vocês", concluiu Pichai.

Inscreva-se no canal Geek TV, o canal oficial do Geek Fusion no YouTube e acompanhe nossos conteúdos e produções de parceiros. Siga-nos também no Facebook, Instagram e X, para ficar por dentro das novidades que preparamos especialemnte para você!

Tem uma dica de notícia ou quer entrar em contato conosco diretamente? Então faça contato através do e-mail Este endereço de email está sendo protegido de spambots. Você precisa do JavaScript ativado para vê-lo..