O Slack tem verificado suas mensagens para treinar seus modelos de IA

O Slack treina modelos de aprendizado de máquina em mensagens, arquivos e outros conteúdos de usuários sem permissão explícita. O treinamento é opt-out, o que significa que seus dados privados serão drenados por padrão. Para piorar a situação, você terá que pedir ao administrador do Slack da sua organização (recursos humanos, TI, etc.) que envie um e-mail para a empresa pedindo que ela pare. (Você não pode fazer isso sozinho.) Bem-vindo ao lado negro do novo Corrida do ouro dos dados de treinamento de IA.

Corey Quinnexecutivo do DuckBill Group, identificado a política em uma sinopse em Princípios de privacidade do Slack e postou sobre isso no X (através da Garon). A seção diz (grifo nosso): “Para desenvolver modelos de IA/MLnossos sistemas analisar dados do cliente (por exemplo: mensagens, conteúdo e arquivos) enviado ao Slack, bem como Outra informação (incluindo informações de uso), conforme definido em nossa Política de Privacidade e em seu contrato de cliente.”

O processo de cancelamento exige que você faça todo o trabalho para proteger seus dados. De acordo com o aviso de privacidade, “Para cancelar, peça aos proprietários da sua organização ou espaço de trabalho ou proprietário principal que entrem em contato com nossa equipe de experiência do cliente em feedback@slack.com com o URL do seu espaço de trabalho/organização e a linha de assunto ‘Solicitação de cancelamento do modelo global do Slack .’ Processaremos sua solicitação e responderemos assim que o cancelamento for concluído.”

A empresa respondeu à mensagem de Quinn no X: “Para esclarecer, o Slack tem modelos de aprendizado de máquina em nível de plataforma para coisas como recomendações de canais e emojis e resultados de pesquisa. E sim, os clientes podem impedir que seus dados ajudem a treinar esses modelos de ML (não generativos).

Há quanto tempo o Empresa de propriedade da Salesforce colocou o boato em seus termos não está claro. É enganoso, na melhor das hipóteses, dizer que os clientes podem optar por sair quando “clientes” não incluem funcionários que trabalham dentro de uma organização. Eles precisam pedir a quem gerencia o acesso ao Slack em seus negócios para fazer isso – e espero que eles atendam.

As inconsistências nas políticas de privacidade do Slack aumentam a confusão. Uma seção afirma: “Ao desenvolver modelos Al/ML ou analisar dados do cliente, o Slack não consegue acessar o conteúdo subjacente. Temos diversas medidas técnicas que impedem que isso ocorra.” No entanto, a política de formação do modelo de aprendizagem automática aparentemente contradiz esta afirmação, deixando muito espaço para confusão.

Além disso, a página do Slack marketing isso é ferramentas premium de IA generativa diz: “Trabalhe sem preocupações. Seus dados são seus dados. Não o usamos para treinar o Slack AI. Tudo funciona na infraestrutura segura do Slack, atendendo aos mesmos padrões de conformidade do próprio Slack.”

Neste caso, a empresa está falando de seu ferramentas premium de IA generativa, separado dos modelos de aprendizado de máquina nos quais ele está treinando sem permissão explícita. No entanto, como Garon observa, implicar que todos os seus dados estão protegidos do treinamento de IA é, na melhor das hipóteses, uma afirmação altamente enganosa quando a empresa aparentemente escolhe quais modelos de IA essa declaração cobre.

O Engadget tentou entrar em contato com o Slack por meio de vários canais, mas não recebeu resposta no momento da publicação. Atualizaremos esta história se tivermos resposta.