[ad_1]
Uma coalizão de 20 empresas de tecnologia assinado um acordo na sexta-feira para ajudar a prevenir deepfakes de IA nas eleições críticas de 2024 que ocorrerão em mais de 40 países. OpenAI, Google, Meta, Amazon, Adobe e X estão entre as empresas que aderiram ao pacto para prevenir e combater conteúdos gerados por IA que possam influenciar os eleitores. No entanto, a linguagem vaga do acordo e a falta de aplicação vinculativa colocam em questão se este vai suficientemente longe.
A lista de empresas que assinam o “Acordo Técnico para Combater o Uso Enganoso de IA nas Eleições de 2024” inclui aquelas que criam e distribuem modelos de IA, bem como plataformas sociais onde os deepfakes têm maior probabilidade de surgir. Os signatários são Adobe, Amazon, Anthropic, Arm, ElevenLabs, Google, IBM, Inflection AI, LinkedIn, McAfee, Meta, Microsoft, Nota, OpenAI, Snap Inc., Stability AI, TikTok, Trend Micro, Truepic e X (anteriormente Twitter ).
O grupo descreve o acordo como “um conjunto de compromissos para implantar tecnologia que combata conteúdos nocivos gerados por IA destinados a enganar os eleitores”. Os signatários concordaram com os seguintes oito compromissos:
-
Desenvolver e implementar tecnologia para mitigar riscos relacionados ao conteúdo eleitoral enganoso de IA, incluindo ferramentas de código aberto, quando apropriado
-
Avaliação de modelos no escopo deste acordo para compreender os riscos que eles podem apresentar em relação ao conteúdo eleitoral enganoso de IA
-
Buscando detectar a distribuição deste conteúdo em suas plataformas
-
Buscando abordar adequadamente esse conteúdo detectado em suas plataformas
-
Promover a resiliência intersetorial a conteúdo eleitoral enganoso de IA
-
Fornecer transparência ao público sobre como a empresa aborda isso
-
Continuando a colaborar com um conjunto diversificado de organizações globais da sociedade civil, académicos
-
Apoiar esforços para promover a consciência pública, a literacia mediática e a resiliência de toda a sociedade
O acordo se aplicará a áudio, vídeo e imagens gerados por IA. Aborda conteúdos que “falsificam ou alteram enganosamente a aparência, voz ou ações de candidatos políticos, funcionários eleitorais e outras partes interessadas importantes em uma eleição democrática, ou que fornecem informações falsas aos eleitores sobre quando, onde e como eles podem votar. ”
Os signatários afirmam que trabalharão juntos para criar e compartilhar ferramentas para detectar e abordar a distribuição online de deepfakes. Além disso, planejam realizar campanhas educativas e “fornecer transparência” aos usuários.
OpenAI, um dos signatários, já disse no mês passado que planeja suprimir a desinformação relacionada às eleições mundialmente. Imagens geradas com a empresa DALL-E 3 A ferramenta será codificada com um classificador que fornece uma marca d’água digital para esclarecer sua origem como imagens geradas por IA. O Bate-papoGPT A fabricante disse que também trabalharia com jornalistas, pesquisadores e plataformas para obter feedback sobre seu classificador de proveniência. Também planeja evitar que chatbots se façam passar por candidatos.
“Estamos empenhados em proteger a integridade das eleições, aplicando políticas que previnam abusos e melhorem a transparência em torno do conteúdo gerado por IA”, escreveu Anna Makanju, vice-presidente de assuntos globais da OpenAI, no comunicado de imprensa conjunto do grupo. “Esperamos trabalhar com parceiros da indústria, líderes da sociedade civil e governos de todo o mundo para ajudar a proteger as eleições contra o uso enganoso de IA.”
Notavelmente ausente da lista está a Midjourney, a empresa com um gerador de imagens de IA (de mesmo nome) que atualmente produz algumas das fotos falsas mais convincentes. No entanto, a empresa disse no início deste mês que iria considerar proibir totalmente as gerações políticas durante o período eleitoral. No ano passado, Midjourney estava acostumado a criar uma imagem viral falsa do Papa Bento XVI inesperadamente desfilando pela rua com uma jaqueta branca fofa. Um dos concorrentes mais próximos do Midjourney, Stability AI (criador do software de código aberto Difusão Estável), participou. O Engadget entrou em contato com Midjourney para comentar sobre sua ausência e atualizaremos este artigo se recebermos resposta.
Apenas a Apple está ausente entre as “Cinco Grandes” do Vale do Silício. No entanto, isso pode ser explicado pelo fato de que o fabricante do iPhone ainda não lançou nenhum produto generativo de IA, nem hospeda uma plataforma de mídia social onde deepfakes possam ser distribuídos. Independentemente disso, entramos em contato com o PR da Apple para esclarecimentos, mas não recebemos resposta no momento da publicação.
Embora os princípios gerais que as 20 empresas concordaram parecerem um começo promissor, resta saber se um conjunto flexível de acordos sem aplicação vinculativa será suficiente para combater um cenário de pesadelo em que os maus atores do mundo usam a IA generativa para influenciar a opinião pública e eleger candidatos agressivamente antidemocráticos – nos EUA e noutros lugares.
“A linguagem não é tão forte quanto se poderia esperar”, disse Rachel Orey, diretora associada sênior do Projeto Eleitoral do Centro de Política Bipartidária. contado A Associated Press na sexta. “Penso que devemos dar crédito a quem o merece e reconhecer que as empresas têm interesse em que as suas ferramentas não sejam utilizadas para minar eleições livres e justas. Dito isto, é voluntário e ficaremos atentos para ver se eles vão até o fim.”
Deepfakes gerados por IA já foram usados nas eleições presidenciais dos EUA. Já em abril de 2023, o Comitê Nacional Republicano (RNC) publicou um anúncio usando imagens geradas por IA do presidente Joe Biden e da vice-presidente Kamala Harris. A campanha de Ron DeSantis, que desde então abandonou as primárias do Partido Republicano, seguiu com Imagens geradas por IA do rival e provável candidato Donald Trump em junho de 2023. Ambos incluíam isenções de responsabilidade fáceis de ignorar de que as imagens foram geradas por IA.
Em janeiro, um Deepfake gerado por IA da voz do presidente Biden foi usado por duas empresas sediadas no Texas para ligar para os eleitores de New Hampshire, instando-os a não votar nas primárias do estado em 23 de janeiro. O clipe, gerado usando a ferramenta de clonagem de voz da ElevenLabs, alcançou até 25.000 eleitores do NH, segundo o procurador-geral do estado. ElevenLabs está entre os signatários do pacto.
A Comissão Federal de Comunicação (FCC) agiu rapidamente para evitar novos abusos da tecnologia de clonagem de voz em chamadas de campanha falsas. No início deste mês, votou por unanimidade para proibir chamadas automáticas geradas por IA. O Congresso dos EUA (aparentemente eternamente num impasse) não aprovou nenhuma legislação sobre IA. Em dezembro, a União Europeia (UE) concordou com um amplo projeto de lei de desenvolvimento de segurança da Lei AI que poderia influenciar os esforços regulatórios de outras nações.
“À medida que a sociedade abraça os benefícios da IA, temos a responsabilidade de ajudar a garantir que essas ferramentas não se tornem armas nas eleições”, escreveu o vice-presidente e presidente da Microsoft, Brad Smith, num comunicado de imprensa. “A IA não criou o engano eleitoral, mas devemos garantir que não ajude o engano a florescer.”
[ad_2]
Fonte: