Ciência

Meredith Whittaker, a presidente do Signal que trava a IA da Apple e do Google no celular

Penelope H. Fritz
Adicione-nos no Google
Meredith Whittaker
Meredith Whittaker
Photo: Martin Kraft / CC BY-SA 4.0, via Wikimedia Commons
Nascimento2000
OcupaçãoPresidente da Signal Foundation
PrêmiosPrêmio Helmut Schmidt Future

Na sexta-feira, o Signal ativou um recurso que a maioria dos usuários nunca vai notar. Nos iPhones novos, o aplicativo agora impede que a IA Siri, da Apple, leia o que está na tela dentro de uma conversa e bloqueia capturas de tela por padrão; no Android, fecha a janela sempre que o Gemini, do Google, tenta espiar. Meredith Whittaker, presidente do Signal, anunciou a mudança pessoalmente e, na mesma publicação, admitiu que ela não basta. Os agentes que Apple, Google e Microsoft estão integrando aos seus sistemas operacionais ainda conseguem acessar o que fica armazenado no aparelho, e no Mac o Signal não tem como barrá-los de forma alguma. Ela classificou o cenário como uma ameaça existencial ao aplicativo que dirige.

A briga combina com ela, e também expõe o dilema no centro de sua carreira. Whittaker passou mais de uma década dentro do Google antes de se tornar uma das críticas mais afiadas do modelo de negócios que pagava seu salário. Hoje ela comanda um mensageiro sem fins lucrativos que se recusa a coletar dados, não vende nada e depende de doadores, mas precisa sobreviver em celulares fabricados justamente pelas empresas cujos produtos de IA ela considera irresponsáveis. O Signal consegue criptografar uma mensagem de ponta a ponta. Não consegue criptografar o sistema operacional.

Seu caminho até a tecnologia foi improvável. Whittaker estudou retórica e literatura inglesa na Universidade da Califórnia em Berkeley e entrou no Google em 2006, onde ficou por treze anos. Fundou o grupo Open Research, que trabalhava com acadêmicos e desenvolvedores de código aberto em medições de neutralidade da rede, privacidade e segurança, e foi cofundadora do M-Lab, o Measurement Lab, uma rede aberta que se tornou a maior fonte pública de dados sobre o desempenho da internet.

A medição a ensinou a desconfiar de afirmações que chegam sem evidências. Em 2017, ela cofundou o AI Now Institute, na Universidade de Nova York, com a pesquisadora Kate Crawford, na sequência de um simpósio promovido pela Casa Branca. O instituto estudava o que a inteligência artificial faz com as pessoas sobre as quais ela é aplicada, e não o que consegue fazer numa demonstração, e seus relatórios voltavam sempre a um mesmo argumento: o problema mais profundo tinha menos a ver com código enviesado do que com quem é dono desses sistemas e contra quem eles são apontados. Mais tarde, ela ocupou a cátedra de pesquisa Minderoo na NYU e atuou como diretora acadêmica do AI Now; hoje é sua principal consultora.

Esse argumento a colocou em rota de colisão com a empresa em que trabalhava. Em 2018, ela redigiu uma petição contra o Project Maven, contrato do Pentágono pelo qual o Google desenvolvia ferramentas de visão computacional para o programa de drones dos EUA. Mais de três mil funcionários assinaram, e o Google não renovou o contrato. Meses depois, ela foi uma das principais organizadoras da Greve do Google (Google Walkout), quando mais de vinte mil funcionários deixaram suas mesas após a revelação de que a empresa pagara um pacote de saída de US$ 90 milhões a Andy Rubin, executivo acusado de má conduta sexual. Whittaker disse depois que o Google retaliou, mandando que ela abandonasse seu trabalho no AI Now. Ela deixou a empresa em julho de 2019.

No mesmo verão, ela disse ao Comitê de Ciência da Câmara dos Representantes que sistemas de IA podem consolidar vieses e pediu proteção a denunciantes que trabalham em tecnologia. No início de 2020, foi além diante do Comitê de Supervisão da Câmara, argumentando que o problema do reconhecimento facial não era apenas a precisão, mas o poder de quem o usa contra pessoas com menos poder, e pedindo que seu uso fosse interrompido. A partir de novembro de 2021, foi consultora sênior de inteligência artificial da presidente da Comissão Federal de Comércio (FTC), Lina Khan.

O Signal a contratou em setembro de 2022 como sua primeira presidente, cargo criado em conjunto com a liderança do aplicativo. O Signal não tem publicidade nem dados de usuários para vender, e Whittaker já disse abertamente que mantê-lo custa cerca de US$ 50 milhões por ano. Boa parte do início de sua gestão foi dedicada a explicar por que um mensageiro que guarda quase nada sobre seus usuários ainda precisa de uma grande equipe de engenharia e de doadores constantes, e por que a alternativa é ser pago em vigilância.

Seus críticos apontam os limites desse modelo. O protocolo de criptografia do Signal já protege as conversas do WhatsApp, mas o aplicativo continua sendo uma fração do tamanho do produto da Meta construído sobre sua criptografia, e o poder de barganha de Whittaker diante dos governos se apoia em grande parte numa única ameaça: a de que o Signal deixará um país em vez de enfraquecer sua criptografia. Ela já a dirigiu à União Europeia e, de novo em junho, ao Reino Unido. A ameaça é crível porque um aplicativo financiado por doações não tem acionistas a agradar, mas isso também faz da resposta do Signal aos reguladores algo mais próximo do exílio do que da negociação. O episódio que deu ao aplicativo seu maior pico de atenção revelou uma lacuna parecida. Quando se descobriu, em março de 2025, que altos funcionários dos EUA haviam discutido planos militares num grupo do Signal que incluía um jornalista por engano, Whittaker defendeu a criptografia como o padrão-ouro da comunicação privada e lembrou que nenhum aplicativo consegue impedir que alguém adicione a pessoa errada a uma conversa. Uma exposição dessa escala é difícil de recusar e mais difícil ainda de controlar.

Desde então, o foco dela passou dos governos para as empresas que fabricam os aparelhos. Em Davos, em janeiro, ela chamou os agentes de IA embutidos nos sistemas operacionais de perigosos para serviços criptografados, alertando que um sistema com acesso root pode ser sequestrado. Em entrevista à Bloomberg em junho, disse que chatbots não são seus amigos e descreveu um assistente com acesso aos seus dados de pagamento e à sua conta do Signal como uma espécie de backdoor. Nesta semana, testes conduzidos pela Reuters com funcionários do Signal e do AI Now constataram que o agente Muse, da Meta, lia conversas do Signal no Android por meio do acesso às notificações, e Whittaker classificou agentes com esse alcance como tecnologicamente irresponsáveis.

Em 2023, a TIME a incluiu em sua primeira lista das pessoas mais influentes em inteligência artificial. Em maio de 2024, ela recebeu o Prêmio Helmut Schmidt do Futuro, em Hamburgo, concedido pelo Die Zeit e seus parceiros por trabalho em democracia e tecnologia, e em julho de 2025 passou a integrar o conselho de administração do grupo de mídia alemão Hubert Burda Media.

O que vem a seguir depende menos do Signal do que de Apple, Google e Microsoft. Whittaker pediu às três uma forma documentada de permitir que os aplicativos mantenham agentes de IA longe de suas telas e de seus dados, e o Signal diz estar cautelosamente otimista quanto ao envolvimento de Google e Apple. Se elas a criarem, o bloqueio que ela ativou nesta semana se tornará padrão do setor. Se não, o mensageiro mais privado do mercado continuará lançando soluções paliativas contra os celulares em que roda, e sua presidente continuará dizendo isso em público.

Tags: , , , , , , ,

Adicione-nos no Google

Discussão

Há 0 comentários.