Presidente do Signal desmonta mitos sobre 'apocalipse da IA' e alerta: 'O risco real é a negligência humana'

Em um momento em que líderes do Vale do Silício e manchetes globais alimentam narrativas sobre uma iminente rebelião das máquinas, Meredith Whittaker, presidente da Signal Foundation, vai na contramão do alarmismo. Para a executiva, o discurso de que a Inteligência Artificial (IA) se transformará em uma entidade consciente voltada contra a humanidade não passa de uma distração fantasiosa, desprovida de qualquer fundamento científico.

De acordo com Whittaker — uma das vozes mais influentes da tecnologia global —, o verdadeiro perigo não reside em um futuro distópico dominado por robôs autônomos, mas sim na implementação descuidada, precipitada e irresponsável de sistemas falhos no presente, com impactos diretos sobre a geopolítica e a segurança global.

Alucinações de IA e o risco iminente de conflitos bélicos

Para ilustrar os perigos tangíveis do uso negligente da tecnologia, a líder do Signal destacou um episódio recente reportado pela imprensa norte-americana: um chatbot de IA adotado por setores de inteligência dos Estados Unidos gerou informações falsas (alucinações) sobre uma suposta embarcação chinesa transportando material nuclear. O relatório fabricado pelo algoritmo quase deflagrou uma retaliação militar em larga escala.

"Quase entramos em guerra com a China por causa de uma falha de sistema", alertou Whittaker em entrevista. "Um modelo que gera dados de inteligência completamente inverídicos e empurra nações para a beira de um conflito armado não pode, sob nenhuma métrica racional, ser rotulado como superinteligente."

O legado do Projeto Maven e a corrida militar autônoma

A visão crítica de Whittaker tem raízes sólidas em sua trajetória corporativa. Com formação inicial em literatura, ela ingressou no Google em 2006 e ganhou notoriedade internacional em 2017 ao liderar a oposição interna contra o Projeto Maven — um polêmico contrato firmado entre a gigante de buscas e o Pentágono para integrar visão computacional a drones de combate.

Na época, Whittaker alertou que a tentativa de "encurtar a cadeia de ataque" (reduzir o intervalo entre o reconhecimento do alvo pela máquina e a ordem de disparo humana) fatalmente conferiria uma falsa sensação de precisão a dados de baixa qualidade. O movimento culminou na histórica greve de mais de 20 mil funcionários do Google em 2018, forçando a companhia a abandonar o projeto, que posteriormente foi absorvido pela empresa de defesa Palantir.

Para a executiva, a persistência dessas tecnologias sem a devida checagem humana continua gerando tragédias operacionais, atribuindo ataques a alvos civis no Oriente Médio ao uso de inteligências operacionais obsoletas ou automatizadas precariamente.

Privacidade inegociável: Por que o Signal prefere deixar mercados a ceder dados

Sob a liderança de Whittaker, o Signal mantém uma base de usuários estimada entre 40 e 70 milhões de pessoas ativas. Embora numericamente distante dos bilhões acumulados pelo WhatsApp, o aplicativo consolidou-se como o padrão ouro global em segurança cibernética e privacidade de ponta a ponta.

A arquitetura dos servidores do Signal foi desenhada para não reter registros de identidade ou metadados de mensagens. Diante da crescente ofensiva de governos ocidentais — como o Reino Unido, que busca exigir brechas de segurança (backdoors) sob a justificativa de combater crimes virtuais —, a postura da presidente é enfática: o Signal encerrará suas operações no país antes de enfraquecer seus protocolos criptográficos.

"Sim, nós deixaríamos esse mercado. Eu tenho princípios e eles não oscilam conforme consultorias ou conveniências políticas", cravou a executiva. "Se permitirmos a espionagem indiscriminada, colocaremos em risco ativistas, jornalistas e cidadãos vulneráveis que confiam suas vidas à nossa plataforma."

"Direitos fundamentais valem para todos": O valor do sigilo

Ao abordar dilemas sobre o uso de mensageiros blindados por agentes mal-intencionados, Whittaker defende que as ferramentas de comunicação não podem ser fragmentadas sem destruir o próprio direito à intimidade digital. Ela rebate a ideia de punir a infraestrutura privada por desvios individuais:

"Se policiais trocam mensagens impróprias na cozinha de casa e alguém os denuncia, a solução é proibir as cozinhas? O aplicativo precisa funcionar para todos com a mesma regra, ou não servirá para ninguém. Esse é o pilar básico dos direitos fundamentais", argumentou.

A executiva relembrou casos recentes em que empresas de tecnologia entregaram conversas de usuárias para autoridades estaduais nos EUA a fim de criminalizar o acesso à saúde reprodutiva, ressaltando que a criptografia atua como um escudo indispensável contra regimes autoritários, violência doméstica e abusos de vigilância institucional.

Conselho às mulheres na tecnologia: "Não seja puxa-saco"

Reconhecida pela revista Time como uma das personalidades mais influentes da computação mundial, Whittaker encerrou suas colocações deixando uma recomendação pragmática para mulheres que buscam espaço em um setor historicamente masculinizado e hostil:

"Você realmente ama o que faz? Gosta de colocar as mãos na massa e testar sistemas? Se a resposta for sim, prepare-se para ambientes desafiadores. E nunca tente agradar a todos bajulando figuras de autoridade. Não seja subserviente. Não ria de piadas se você não achar graça. A fraqueza diante de intimidadores só atrai mais intimidação."