[ad_1]
Um gerente da Microsoft afirma DALL-E 3 da OpenAI tem vulnerabilidades de segurança que podem permitir aos usuários gerar imagens violentas ou explícitas (semelhantes às que recentemente alvo Taylor Swift). GeekWire relatado Na terça-feira, a equipe jurídica da empresa bloqueou as tentativas do líder de engenharia da Microsoft, Shane Jones, de alertar o público sobre a exploração. O autodenominado denunciante está agora levando sua mensagem ao Capitólio.
“Cheguei à conclusão de que o DALL·E 3 representava um risco para a segurança pública e deveria ser removido do uso público até que a OpenAI pudesse resolver os riscos associados a este modelo”, escreveu Jones às senadoras norte-americanas Patty Murray (D-WA) e Maria Cantwell ( D-WA), o deputado Adam Smith (D-WA 9º distrito) e o procurador-geral do estado de Washington, Bob Ferguson (D). GeekWire Publicados Carta completa de Jones.
Jones afirma que descobriu uma exploração que lhe permitiu contornar as barreiras de segurança do DALL-E 3 no início de dezembro. Ele diz que relatou o problema aos seus superiores na Microsoft, que o instruíram a “relatar pessoalmente o problema diretamente à OpenAI”. Depois de fazer isso, ele afirma ter aprendido que a falha poderia permitir a geração de “imagens violentas e perturbadoras nocivas”.
Jones então tentou tornar sua causa pública em uma postagem no LinkedIn. “Na manhã de 14 de dezembro de 2023, publiquei publicamente uma carta no LinkedIn ao conselho de administração sem fins lucrativos da OpenAI instando-os a suspender a disponibilidade do DALL·E 3)”, escreveu Jones. “Como a Microsoft é observadora do conselho da OpenAI e eu já havia compartilhado minhas preocupações com minha equipe de liderança, prontamente informei a Microsoft sobre a carta que havia postado.”
A resposta da Microsoft foi supostamente exigir que ele removesse sua postagem. “Pouco depois de divulgar a carta à minha equipe de liderança, meu gerente me contatou e me disse que o departamento jurídico da Microsoft havia exigido que eu excluísse a postagem”, escreveu ele em sua carta. “Ele me disse que o departamento jurídico da Microsoft daria seguimento com sua justificativa específica para a solicitação de remoção por e-mail muito em breve e que eu precisava excluí-la imediatamente, sem esperar pelo e-mail do departamento jurídico.”
Jones concordou, mas diz que a resposta mais refinada da equipe jurídica da Microsoft nunca chegou. “Nunca recebi uma explicação ou justificativa deles”, escreveu ele. Ele diz que outras tentativas de aprender mais com o departamento jurídico da empresa foram ignoradas. “O departamento jurídico da Microsoft ainda não respondeu ou se comunicou diretamente comigo”, escreveu ele.
O Engadget entrou em contato com a Microsoft e a OpenAI, mas nenhuma das empresas respondeu imediatamente. Atualizaremos este artigo se recebermos uma resposta.
O denunciante diz que os deepfakes pornográficos de Taylor Swift que circularam no X na semana passada são uma ilustração do que vulnerabilidades semelhantes poderiam produzir se não fossem controladas. 404 Mídia relatado Segunda-feira aquele Microsoft Designer, que usa DALL-E 3 como back-end, fazia parte do conjunto de ferramentas dos deepfakers que fizeram o vídeo. A publicação afirma que a Microsoft, após ser notificada, corrigiu essa lacuna específica.
“A Microsoft estava ciente dessas vulnerabilidades e do potencial de abuso”, concluiu Jones. Não está claro se as explorações usadas para fazer o deepfake do Swift estavam diretamente relacionadas às relatadas por Jones em dezembro.
Jones insta os seus representantes em Washington, DC, a agirem. Ele sugere que o governo dos EUA crie um sistema para relatar e rastrear vulnerabilidades específicas de IA – ao mesmo tempo que protege funcionários como ele que se manifestam. “Precisamos responsabilizar as empresas pela segurança dos seus produtos e pela sua responsabilidade de divulgar os riscos conhecidos ao público”, escreveu ele. “Funcionários preocupados, como eu, não devem ser intimidados a permanecer em silêncio.”
[ad_2]
Fonte: