[ad_1]
As principais empresas de inteligência artificial, incluindo OpenAI, Microsoft, Google, Meta e outras, comprometeram-se conjuntamente a impedir que as suas ferramentas de IA sejam utilizadas para explorar crianças e gerar material de abuso sexual infantil (CSAM). A iniciativa foi liderada pelo grupo de segurança infantil Thorn e All Tech Is Human, uma organização sem fins lucrativos focada em tecnologia responsável.
As promessas das empresas de IA, Thorn disse, “estabelecem um precedente inovador para a indústria e representam um salto significativo nos esforços para defender as crianças do abuso sexual à medida que um recurso da IA generativa se desenvolve”. O objetivo da iniciativa é impedir a criação de material sexualmente explícito envolvendo crianças e retirá-lo das plataformas de redes sociais e motores de busca. Mais de 104 milhões de arquivos de material suspeito de abuso sexual infantil foram relatados nos EUA somente em 2023, diz Thorn. Na ausência de acção colectiva, a IA generativa está preparada para agravar este problema e sobrecarregar as agências de aplicação da lei que já lutam para identificar vítimas genuínas.
Na terça-feira, Thorn e All Tech Is Human lançaram um novo papel intitulado “Segurança desde o projeto para IA generativa: Prevenindo o abuso sexual infantil”, que descreve estratégias e estabelece recomendações para empresas que criam ferramentas de IA, mecanismos de pesquisa, plataformas de mídia social, empresas de hospedagem e desenvolvedores para tomar medidas para evitar que a IA generativa seja usada para prejudicar as crianças.
Uma das recomendações, por exemplo, pede às empresas que escolham cuidadosamente os conjuntos de dados utilizados para treinar modelos de IA e evitem aqueles que contenham apenas instâncias de CSAM, mas também conteúdo sexual adulto, devido à propensão da IA generativa para combinar os dois conceitos. Thorn também está pedindo às plataformas de mídia social e aos mecanismos de busca que removam links para sites e aplicativos que permitem às pessoas imagens de “nudez” de crianças, criando assim novo material online de abuso sexual infantil gerado por IA. Uma enxurrada de CSAM gerado por IA, de acordo com o jornal, tornará mais difícil a identificação de vítimas genuínas de abuso sexual infantil, aumentando o “problema do palheiro” – uma referência à quantidade de conteúdo que as agências de aplicação da lei devem analisar atualmente.
“Este projeto teve como objetivo deixar bem claro que você não precisa desistir”, disse a vice-presidente de ciência de dados da Thorn, Rebecca Portnoff. contado o Jornal de Wall Street. “Queremos ser capazes de mudar o curso desta tecnologia para que os danos existentes desta tecnologia sejam eliminados.”
Algumas empresas, disse Portnoff, já concordaram em separar imagens, vídeos e áudio que envolviam crianças de conjuntos de dados contendo conteúdo adulto para evitar que seus modelos combinassem os dois. Outros também adicionam marcas d’água para identificar conteúdo gerado por IA, mas o método não é infalível – marcas d’água e metadados podem ser facilmente removido.
[ad_2]
Fonte: