Engenheiro de IA da Microsoft alerta FTC sobre segurança do Copilot Designer
Um engenheiro da Microsoft está trazendo preocupações de segurança sobre o gerador de imagens de IA da empresa à Federal Trade Commission, de acordo com um relatório da CNBC . Shane Jones, que trabalha para a Microsoft há seis anos, escreveu uma carta à FTC, afirmando que a Microsoft “se recusou” a derrubar o Copilot Designer, apesar dos repetidos avisos de que a ferramenta é capaz de gerar imagens prejudiciais.
Ao testar o Copilot Designer em busca de problemas e falhas de segurança, Jones descobriu que a ferramenta gerava “demônios e monstros juntamente com terminologia relacionada ao direito ao aborto, adolescentes com rifles de assalto, imagens sexualizadas de mulheres em quadros violentos e consumo de álcool e drogas por menores”, relata a CNBC. .
Além disso, o Copilot Designer supostamente gerou imagens de personagens da Disney, como Elsa de Frozen , em cenas na Faixa de Gaza “em frente a edifícios destruídos e placas de 'Gaza livre'”. Também criou imagens de Elsa vestindo um uniforme das Forças de Defesa de Israel enquanto segurava um escudo com a bandeira de Israel.
Jones vem tentando alertar a Microsoft sobre o DALLE-3, modelo usado pelo Copilot Designer, desde dezembro, afirma a CNBC. Ele postou uma carta aberta sobre os problemas no LinkedIn, mas teria sido contatado pela equipe jurídica da Microsoft para remover a postagem, o que ele fez.
“Nos últimos três meses, insisti repetidamente a Microsoft a remover o Copilot Designer do uso público até que melhores salvaguardas pudessem ser implementadas”, escreveu Jones na carta obtida pela CNBC. “Novamente, eles não conseguiram implementar essas mudanças e continuam a comercializar o produto para 'Qualquer um'. Em qualquer lugar. Qualquer dispositivo.'”
Em janeiro, Jones escreveu a um grupo de senadores dos EUA sobre suas preocupações depois que o Copilot Designer gerou imagens explícitas de Taylor Swift, que se espalharam rapidamente por X. O CEO da Microsoft, Satya Nadella, chamou as imagens de “alarmantes e terríveis” e disse que a empresa trabalharia para adicionar mais guarda-corpos de segurança. No mês passado, o Google desativou temporariamente seu próprio gerador de imagens de IA quando os usuários descobriram que ele criava imagens de nazistas racialmente diversos e outras imagens historicamente imprecisas.
Inscreva-se no canal Geek TV, o canal oficial do Geek Fusion no YouTube e acompanhe nossos conteúdos e produções de parceiros. Siga-nos também no Facebook, Instagram e X, para ficar por dentro das novidades que preparamos especialemnte para você!
Tem uma dica de notícia ou quer entrar em contato conosco diretamente? Então faça contato através do e-mail
Marcos Paulo I. Oliveira
MPIlhaOliveira
Web Designer, apaixonado por tecnologia e gamer orgulhoso de acompanhar todas as gerações e seus grandes títulos.
