O WhatsApp está caminhando na corda bamba entre os recursos de IA e a privacidade

O aplicativo de comunicação criptografado de ponta a ponta WhatsApp , usado por cerca de 3 bilhões de pessoas ao redor do mundo, lançará recursos de IA baseados em nuvem nas próximas semanas, projetados para preservar as garantias de segurança e privacidade do WhatsApp, ao mesmo tempo em que oferece aos usuários acesso a ferramentas de resumo e composição de mensagens.

A Meta vem incorporando recursos de IA generativa em seus serviços que são construídos em seu modelo de linguagem grande de código aberto, Llama . E o WhatsApp já incorpora um círculo azul claro que dá aos usuários acesso ao assistente de IA da Meta. Mas muitos usuários se recusaram a essa adição , dado que as interações com o assistente de IA não são protegidas da Meta da mesma forma que os chats criptografados de ponta a ponta do WhatsApp são. O novo recurso, denominado Processamento Privado, visa abordar essas preocupações com o que a empresa diz ser uma plataforma cuidadosamente arquitetada e construída para esse fim, dedicada ao processamento de dados para tarefas de IA sem que as informações sejam acessíveis à Meta, ao WhatsApp ou a qualquer outra parte. Embora as avaliações iniciais dos pesquisadores sobre a integridade do esquema tenham sido positivas, alguns observam que a mudança para recursos de IA pode, em última análise, colocar o WhatsApp em uma ladeira escorregadia.

“O WhatsApp é alvo e analisado por diversos pesquisadores e agentes de ameaças. Isso significa que, internamente, ele possui um modelo de ameaças bem compreendido”, afirma Chris Rohlf, diretor de engenharia de segurança da Meta. “Há também um conjunto de expectativas de privacidade por parte dos usuários, então não se tratava apenas de gerenciar a expansão desse modelo de ameaças e garantir que as expectativas de privacidade e segurança fossem atendidas — tratava-se de considerar cuidadosamente a experiência do usuário e fazer essa aceitação.”

Comunicações criptografadas de ponta a ponta são acessíveis apenas ao remetente e ao destinatário, ou às pessoas em um bate-papo em grupo. O provedor de serviços, neste caso o WhatsApp e sua empresa controladora, a Meta, é excluído por design e não pode acessar as mensagens ou chamadas dos usuários. Essa configuração é incompatível com plataformas típicas de IA generativa, que executam grandes modelos de linguagem em servidores em nuvem e precisam de acesso às solicitações e dados dos usuários para processamento. O objetivo do Processamento Privado é criar uma estrutura alternativa por meio da qual as garantias de privacidade e segurança da comunicação criptografada de ponta a ponta possam ser mantidas, incorporando IA.

Os usuários optam por usar os recursos de IA do WhatsApp e também podem impedir que as pessoas com quem estão conversando usem os recursos de IA em comunicações compartilhadas ativando um novo controle do WhatsApp conhecido como “Privacidade Avançada de Chat”.

"Quando a configuração está ativada, você pode bloquear outras pessoas de exportar conversas, baixar mídias automaticamente para seus celulares e usar mensagens para recursos de IA", escreveu o WhatsApp em uma publicação de blog na semana passada. Assim como as mensagens temporárias, qualquer pessoa em uma conversa pode ativar e desativar a Privacidade Avançada de Conversas — que é gravada para todos verem — então os participantes só precisam estar atentos a quaisquer ajustes.

O Processamento Privado é construído com hardware especial que isola dados sensíveis em um "Ambiente de Execução Confiável", uma região isolada e bloqueada de um processador. O sistema é construído para processar e reter dados pelo menor tempo possível e foi projetado para parar completamente e enviar alertas caso detecte qualquer adulteração ou ajuste. O WhatsApp já está solicitando auditorias de terceiros de diferentes componentes do sistema e o incluirá no programa de recompensas por bugs do Meta para incentivar a comunidade de segurança a enviar informações sobre falhas e potenciais vulnerabilidades. O Meta também afirma que, em última análise, planeja tornar os componentes do Processamento Privado de código aberto, tanto para uma verificação mais ampla de suas garantias de segurança e privacidade quanto para facilitar a criação de serviços semelhantes por terceiros.

No ano passado, a Apple lançou um esquema semelhante , conhecido como Private Cloud Compute, para sua plataforma de inteligência artificial Apple Intelligence. Os usuários podem ativar o serviço no aplicativo de comunicação com criptografia de ponta a ponta da Apple, o Mensagens, para gerar resumos de mensagens e redigir mensagens de "Resposta Inteligente" em iPhones e Macs .

Analisar a Computação em Nuvem Privada e o Processamento Privado lado a lado é como comparar, bem, Apple(s) e laranjas. A Computação em Nuvem Privada da Apple sustenta toda a Inteligência da Apple em todos os lugares onde pode ser aplicada. O Processamento Privado, por outro lado, foi desenvolvido especificamente para o WhatsApp e não sustenta os recursos de IA do Meta de forma mais ampla. A Inteligência da Apple também foi projetada para realizar o máximo de processamento de IA possível no dispositivo e enviar solicitações à infraestrutura de Computação em Nuvem Privada apenas quando necessário. Como esse processamento "no dispositivo" ou "local" requer hardware potente, a Apple projetou a Inteligência da Apple apenas para rodar em suas gerações recentes de hardware móvel. iPhones e iPads antigos nunca suportarão a Inteligência da Apple.

A Apple é fabricante de smartphones de ponta e outros hardwares, enquanto a Meta é uma empresa de software, com cerca de 3 bilhões de usuários que possuem todos os tipos de smartphones, incluindo dispositivos antigos e de baixo custo. Rohlf e Colin Clemmons, um dos engenheiros-chefes de Processamento Privado, afirmam que não era viável projetar recursos de IA para o WhatsApp que pudessem ser executados localmente no espectro de dispositivos que o WhatsApp atende. Em vez disso, o WhatsApp se concentrou em projetar o Processamento Privado para ser o menos útil possível para invasores, caso fosse violado.

“O projeto visa minimizar os riscos”, diz Clemmons. “Queremos minimizar o risco de comprometer o sistema.”

Todo esse esforço levanta uma questão mais básica, porém, sobre por que uma plataforma de comunicação segura como o WhatsApp precisa oferecer recursos de IA. O Meta, porém, insiste que os usuários esperam os recursos neste momento e irão a qualquer lugar para obtê-los.

“Muitas pessoas querem usar ferramentas de IA para ajudá-las ao enviar mensagens”, disse Will Cathcart, chefe do WhatsApp, à WIRED por e-mail. “Achamos importante criar uma maneira privada de fazer isso, porque as pessoas não deveriam ter que migrar para uma plataforma menos privada para ter a funcionalidade de que precisam.”

“Qualquer sistema criptografado de ponta a ponta que utilize inferência de IA fora do dispositivo será mais arriscado do que um sistema de ponta a ponta puro. Você envia dados para um computador em um data center, e essa máquina vê suas mensagens privadas”, afirma Matt Green, criptógrafo da Johns Hopkins que apresentou uma prévia de algumas das garantias de privacidade do Processamento Privado, mas não auditou o sistema completo. “Acredito no WhatsApp quando eles dizem que projetaram isso para ser o mais seguro possível, e acredito neles quando dizem que não conseguem ler suas mensagens. Mas também acredito que há riscos aqui. Mais dados privados sairão do dispositivo, e as máquinas que processam esses dados serão alvo de hackers e adversários estatais.”

O WhatsApp também afirma que, além dos recursos básicos de IA, como resumo de texto e sugestões de escrita, o Processamento Privado espera criar uma base para expandir para recursos de IA mais complicados e envolventes no futuro, que envolvam processamento e, potencialmente, armazenamento de mais dados.

Como diz Green, “Considerando todas as coisas malucas para as quais as pessoas usam mensageiros seguros, tudo isso transformará os computadores de processamento privado em um alvo muito grande”.