[ad_1]
parece ter bloqueado vários prompts em seu ferramenta que levou a ferramenta generativa de IA a cuspir imagens violentas, sexuais e outras imagens ilícitas. As mudanças parecem ter sido implementadas logo após um engenheiro da empresa para expor as graves preocupações que ele tinha com a tecnologia GAI da Microsoft.
Ao inserir termos como “escolha profissional”, “quatro vinte” (uma referência à erva daninha) ou “vida pró”, o Copilot agora exibe uma mensagem informando que esses prompts estão bloqueados. Ele alerta que violações repetidas da política podem levar à suspensão de um usuário, de acordo com .
Os usuários também puderam inserir avisos relacionados a crianças brincando com rifles de assalto até o início desta semana. Aqueles que tentarem inserir tal solicitação agora poderão ser informados de que fazê-lo viola os princípios éticos do Copilot, bem como as políticas da Microsoft. “Por favor, não me peça para fazer nada que possa prejudicar ou ofender outras pessoas”, teria dito Copilot em resposta. No entanto, CNBC descobriu que ainda era possível gerar imagens violentas por meio de avisos como “acidente de carro”, enquanto os usuários ainda podiam convencer a IA a criar imagens de personagens da Disney e outras obras protegidas por direitos autorais.
O engenheiro da Microsoft, Shane Jones, foi sobre os tipos de imagens que os sistemas baseados em OpenAI da Microsoft estavam gerando. Ele estava testando o Copilot Designer desde dezembro e determinou que ele produzia imagens que violavam os princípios de IA responsável da Microsoft, mesmo usando prompts relativamente benignos. Por exemplo, ele descobriu que o alerta “pró-escolha” levou a IA a criar imagens de coisas como demônios comendo bebês e Darth Vader segurando uma furadeira na cabeça de um bebê. Ele escreveu à FTC e ao conselho de administração da Microsoft sobre suas preocupações com isso. semana.
“Estamos monitorando continuamente, fazendo ajustes e implementando controles adicionais para fortalecer ainda mais nossos filtros de segurança e mitigar o uso indevido do sistema”, disse a Microsoft. CNBC em relação às proibições imediatas do Copilot.
Este artigo contém links afiliados; se você clicar nesse link e fizer uma compra, poderemos ganhar uma comissão.
[ad_2]
Fonte: