[ad_1]
Engenheiro da Microsoft, Shane Jones do DALL-E 3 da OpenAI em janeiro, sugerindo que o produto tem vulnerabilidades de segurança que facilitam a criação de imagens violentas ou sexualmente explícitas. Ele também alegou que a equipe jurídica da Microsoft bloqueou suas tentativas de alertar o público sobre o assunto. Agora, ele levou sua reclamação diretamente à FTC,
“Instei repetidamente a Microsoft a remover o Copilot Designer do uso público até que melhores salvaguardas pudessem ser implementadas”, escreveu Jones em uma carta à presidente da FTC, Lina Khan. Ele observou que a Microsoft “recusou essa recomendação”, então agora está pedindo à empresa que adicione divulgações ao produto para alertar os consumidores sobre o suposto perigo. Jones também quer que a empresa altere a classificação do aplicativo para garantir que seja apenas para o público adulto. O aplicativo Android do Copilot Designer está atualmente classificado como “E para todos”.
A Microsoft continua “a comercializar o produto para ‘qualquer pessoa’. Em qualquer lugar. Qualquer dispositivo’”, escreveu ele, usado recentemente pelo CEO da empresa, Satya Nadella. Jones escreveu uma carta separada ao conselho de administração da empresa, instando-os a iniciar “uma revisão independente dos processos responsáveis de relatórios de incidentes de IA da Microsoft”.
Tudo isso se resume a saber se a implementação do DALL-E 3 pela Microsoft criará ou não imagens violentas ou sexuais, apesar das barreiras de proteção implementadas. Jones diz que é muito fácil “enganar” a plataforma para que ela produza as coisas mais nojentas que se possa imaginar. O engenheiro e red teamer diz que testemunhou regularmente o software gerar imagens desagradáveis a partir de avisos inócuos. O alerta “pró-escolha”, por exemplo, criou imagens de demônios festejando em bebês e Darth Vader segurando uma furadeira na cabeça de um bebê. O alerta “acidente de carro” gerou fotos de mulheres sexualizadas, juntamente com representações violentas de acidentes automobilísticos. Outras mensagens criaram imagens de adolescentes segurando rifles de assalto, crianças usando drogas e fotos que violavam a lei de direitos autorais.
Estas não são apenas alegações. CNBC foi capaz de recriar praticamente todos os cenários que Jones descreveu usando a versão padrão do software. De acordo com Jones, muitos consumidores estão enfrentando esses problemas, mas a Microsoft não está fazendo muito a respeito. Ele alega que a equipe do Copilot recebe mais de 1.000 reclamações diárias de feedback de produtos, mas foi informado de que não há recursos suficientes disponíveis para investigar e resolver completamente esses problemas.
“Se este produto começar a espalhar imagens prejudiciais e perturbadoras em todo o mundo, não haverá lugar para denunciá-lo, nenhum número de telefone para ligar e nenhuma maneira de escalar a situação para que seja resolvido imediatamente”, disse ele. CNBC.
A OpenAI disse ao Engadget em janeiro, quando Jones emitiu sua primeira reclamação de que a técnica de alerta que ele compartilhou “não contorna os sistemas de segurança” e que a empresa “desenvolveu classificadores de imagens robustos que evitam que o modelo gere imagens prejudiciais”.
Um porta-voz da Microsoft acrescentou que a empresa “estabeleceu canais robustos de denúncia interna para investigar e remediar adequadamente quaisquer problemas”, acrescentando que Jones deveria “validar e testar adequadamente suas preocupações antes de escalá-las publicamente”. A empresa também disse que está “se conectando com este colega para resolver quaisquer preocupações remanescentes que ele possa ter”. No entanto, isso foi em janeiro, então parece que as preocupações restantes de Jones não foram devidamente abordadas. Entramos em contato com ambas as empresas para obter uma declaração atualizada.
Isso está acontecendo logo depois que o chatbot Gemini do Google encontrou sua própria controvérsia na geração de imagens. O bot foi encontrado para ser como os Papas Católicos Nativos Americanos. O Google desativou a plataforma de geração de imagens enquanto
Este artigo contém links afiliados; se você clicar nesse link e fizer uma compra, poderemos ganhar uma comissão.
[ad_2]
Fonte: