[ad_1]
OpenAI, Google, Anthropic e outras empresas que desenvolvem IA generativa continuam a melhorar suas tecnologias e a lançar modelos de linguagem cada vez melhores. A fim de criar uma abordagem comum para a avaliação independente da segurança desses modelos à medida que são lançados, o Reino Unido e o Governos dos EUA ter assinado um Memorando de Entendimento. Juntos, o AI Safety Institute do Reino Unido e o seu homólogo nos EUA, que foi anunciado pela vice-presidente Kamala Harris, mas ainda não iniciou as operações, desenvolverá conjuntos de testes para avaliar os riscos e garantir a segurança dos “modelos de IA mais avançados”.
Eles estão planejando compartilhar conhecimentos técnicos, informações e até mesmo pessoal como parte da parceria, e um dos seus objetivos iniciais parece ser realizar um exercício conjunto de testes em um modelo acessível ao público. A ministra da ciência do Reino Unido, Michelle Donelan, que assinou o acordo, disse Os tempos financeiros que eles “realmente precisam agir rapidamente” porque esperam que uma nova geração de modelos de IA seja lançada no próximo ano. Eles acreditam que esses modelos podem “virar completamente o jogo” e ainda não sabem do que poderiam ser capazes.
De acordo com Os tempos, esta parceria é o primeiro acordo bilateral sobre segurança de IA no mundo, embora tanto os EUA como o Reino Unido pretendam formar parcerias com outros países no futuro. “A IA é a tecnologia que define a nossa geração. Esta parceria irá acelerar o trabalho de ambos os nossos Institutos em todo o espectro de riscos, seja para a nossa segurança nacional ou para a nossa sociedade em geral”, disse a Secretária do Comércio dos EUA, Gina Raimondo. “Nossa parceria deixa claro que não estamos fugindo dessas preocupações — estamos correndo em direção a elas. Devido à nossa colaboração, nossos institutos obterão uma melhor compreensão dos sistemas de IA, realizarão avaliações mais robustas e emitirão orientações mais rigorosas. “
Embora esta parceria específica se concentre em testes e avaliação, governos de todo o mundo também estão a criar regulamentos para manter as ferramentas de IA sob controlo. Em março, a Casa Branca assinou uma ordem executiva com o objetivo de garantir que as agências federais utilizem apenas ferramentas de IA que “não ponham em perigo os direitos e a segurança do povo americano”. Algumas semanas antes disso, o Parlamento Europeu aprovado legislação abrangente para regular a inteligência artificial. Proibirá a “IA que manipula o comportamento humano ou explora as vulnerabilidades das pessoas”, “sistemas de categorização biométrica baseados em características sensíveis”, bem como a “extração não direcionada” de rostos de imagens de CCTV e da web para criar bases de dados de reconhecimento facial. Além disso, deepfakes e outras imagens, vídeos e áudio gerados por IA precisarão ser claramente rotulados como tal de acordo com suas regras.
[ad_2]
Fonte: