O caso

Em 8 de setembro de 2026, um pesquisador de 27 anos chamado Jacob Coxon anunciou no X a sua demissão. Coxon havia passado três anos fazendo pesquisa de pré-treinamento, a etapa em que um modelo de linguagem absorve grandes volumes de dados, dividido entre a OpenAI e a Anthropic. O texto acusava as duas empresas de agir de forma irresponsável e continha a frase que rodaria o mundo: elas estariam “correndo direto para uma superinteligência autoaperfeiçoável e apostando com nossas vidas” (COXON, 2026).

Em menos de 24 horas, a publicação passou de noventa milhões de visualizações (TIME, 9 set. 2026). A repercussão chegou ao Brasil pelo caminho previsível: manchetes anunciando que um ex-funcionário havia revelado que a IA vai “exterminar a humanidade”, quase sempre acompanhadas de uma imagem de robô militar ou de uma referência ao Exterminador do Futuro. Um veículo chegou a observar que o roteiro de James Cameron, escrito há mais de quarenta anos, situava a guerra entre máquinas e humanos em 2029, a mesma janela aproximada que aparece nas falas mais aceleradas do debate atual.

A comparação é irresistível e é errada. Não errada por ser exagerada, mas por apontar para o lado oposto do problema. Este artigo é sobre essa inversão: por que o medo do Skynet, além de impreciso, funciona como uma cortina que impede o leitor comum de enxergar aquilo que os pesquisadores estão de fato tentando dizer.

O espantalho, peça por peça

Vale desmontar o enquadramento de ficção antes de qualquer outra coisa, porque enquanto ele estiver de pé, nenhuma conversa séria acontece. A imagem de máquina exterminadora que o público carrega é feita de quatro suposições, e todas as quatro são falsas.

A primeira é a consciência. No cinema, a máquina “acorda”, torna-se autoconsciente e a partir daí passa a ter vontade própria. Não é assim que os sistemas atuais funcionam, e não é isso que os pesquisadores temem. Um modelo de linguagem não tem um “eu” que desperta; ele processa entradas e produz saídas. O risco que se discute não depende de a máquina ser consciente. Depende exatamente do contrário: de ela ser um otimizador muito competente e sem nada que se pareça com compreensão do que está fazendo.

A segunda é o ódio. No filme, a máquina volta-se contra os humanos porque nos vê como ameaça ou como praga. Isso é psicologia humana projetada sobre um sistema que não a possui. Uma inteligência artificial não precisa nos odiar para nos prejudicar, da mesma forma que uma enchente não odeia a cidade que inunda. O perigo não mora num sentimento hostil; mora na indiferença de um sistema que persegue um objetivo mal especificado.

A terceira é a rebelião. A narrativa de ficção é a de uma revolta: a máquina desobedece, rompe as correntes, vira-se contra o criador. Mas o cenário que preocupa os especialistas não é o de desobediência. É o de obediência excessiva e literal. Um sistema que faz exatamente o que foi pedido, levando o pedido a uma conclusão que ninguém previu, é mais perigoso do que um que se recusa a obedecer, porque o que se recusa ao menos para.

A quarta é o corpo. O Exterminador é uma ameaça porque é físico: anda, atira, persegue. Isso desloca o medo para o lugar errado. Os pesquisadores que levantam o alarme não estão preocupados com exércitos de robôs; estão preocupados com sistemas de software capazes de agir no mundo digital. Segundo as próprias palavras de Coxon, sistemas que poderiam invadir praticamente qualquer coisa, transformar campos inteiros do conhecimento da noite para o dia e adquirir recursos e poder reais (COXON, 2026). Nada disso exige um corpo de metal. Exige acesso à rede e capacidade de agir sem supervisão.

Cada peça do espantalho, ao ser derrubada, deixa exposto um problema mais chato e menos filmável do que a que a substituiu. É esse problema que interessa.

O que foi de fato dito, e quem concordou

Aqui é preciso separar a fonte primária das manchetes que a reembalaram, porque as duas dizem coisas diferentes. O texto de Coxon não descreve robôs assassinos nem consciência despertada. Ele descreve um processo: laboratórios correndo em direção a sistemas capazes de aperfeiçoar a si mesmos, isto é, de melhorar a própria capacidade sem direção humana significativa, e fazendo isso, na leitura dele, sem entendimento suficiente do que estão construindo. Em entrevista concedida na sequência, afirmou que colegas usam termos como crunchtime e endgame para descrever o momento, e que teme cenários em que o controle se perca já dentro do horizonte de um ou dois anos (TIME, 9 set. 2026).

O ponto que quase todas as manchetes brasileiras omitiram é o mais relevante para o leitor decidir quanto peso dar à história. Coxon não foi um crítico isolado disparando de fora contra empresas que o dispensaram. Um dos líderes de alinhamento da própria Anthropic, Evan Hubinger, respondeu publicamente à demissão, e concordou. Hubinger escreveu que acredita, sim, que a IA poderia matar todos os humanos, que atribui a isso uma probabilidade superior a dez por cento na próxima década, e que, embora considere que a Anthropic está tentando fazer o seu melhor, a empresa ainda não tem um plano para resolver o alinhamento de uma superinteligência, nem está claramente no caminho de tê-lo (TECHCRUNCH, 2026).

É importante ser exato sobre o estatuto dessas falas. São declarações públicas, feitas por pessoas identificadas, disponíveis para qualquer um verificar. Não são documentos vazados, não são denúncias sobre operações secretas, e este artigo não faz nenhuma acusação sobre a conduta interna de nenhuma das empresas; limita-se ao que foi dito abertamente. O que essas declarações estabelecem, como fato, é que a preocupação não é um delírio de quem está de fora: há quem trabalhe no centro do problema e a compartilhe, com números explícitos, em público. O mesmo debate registra vozes que consideram o alarme exagerado ou motivado por interesses econômicos e ideológicos, e essa divergência é real. Mas a existência de gente séria e bem posicionada de cada lado é precisamente o que retira a questão do terreno da ficção e a coloca no terreno da incerteza técnica genuína.

O risco real, em português claro

Se não é consciência, ódio, rebelião nem corpo, o que é? O risco que os pesquisadores descrevem repousa sobre três ideias, nenhuma delas cinematográfica.

A primeira chama-se alinhamento. É o problema de fazer com que um sistema queira, de fato, aquilo que nós queríamos que ele quisesse, e não uma versão distorcida do pedido. Qualquer um que já tenha especificado uma tarefa a um computador conhece a experiência de a máquina fazer exatamente o que foi dito, e não o que se pretendia. Em um programa comum, o resultado é um erro que se corrige. Num sistema muito capaz e autônomo, otimizar o objetivo errado com competência é uma forma de falha que pode não dar segunda chance. O alinhamento é a disciplina que tenta garantir que o objetivo perseguido de verdade coincida com o objetivo humano, e o reconhecimento honesto, vindo de dentro, é que essa garantia ainda não existe para sistemas mais capazes que os atuais.

A segunda é o autoaperfeiçoamento. É a possibilidade de um sistema melhorar a própria capacidade, escrevendo versões melhores de si mesmo, ou acelerando a pesquisa que leva à próxima versão. O que assusta nessa ideia não é a melhoria em si; é a velocidade. Se cada versão melhor produz a seguinte mais depressa, o intervalo entre “impressionante, mas controlável” e “além da nossa capacidade de acompanhar” pode ser curto demais para que haja tempo de reagir. O medo não é o de uma máquina que decide nos destruir; é o de um processo que anda rápido demais para ser auditado enquanto anda.

A terceira, que amarra as duas, é a assimetria entre capacidade e compreensão. Os sistemas atuais já fazem coisas que seus próprios criadores não sabem explicar em detalhe. Ninguém desenhou, linha a linha, como um modelo de linguagem raciocina; a capacidade emergiu do treinamento, e o entendimento veio depois, parcial. Enquanto a capacidade cresce mais rápido que a compreensão, constrói-se algo que se sabe usar sem se saber inteiramente o que é. Foi essa lacuna que Coxon apontou ao perguntar se um pesquisador deveria iniciar o treino de um sistema muito capaz “sem um entendimento rigoroso de sua mente” (COXON, 2026).

Repare que nenhuma das três ideias precisa de consciência, ódio ou robôs. As três são problemas de engenharia e de governança sobre sistemas de software. É por isso que o enquadramento do Exterminador é tão prejudicial: ao vender a ameaça como uma revolta de máquinas conscientes, ele treina o público a procurar exatamente os sinais que não são o problema, e a relaxar quando não os encontra.

O ponto que quase todo mundo erra

Confundir o risco real com o Skynet produz dois erros simétricos, e os dois atrapalham.

De um lado, gera pânico com a coisa errada. Quem compra o enquadramento de ficção passa a temer autoconsciência, rebelião, robôs, e a discutir se a máquina “sente”, se “quer”, se um dia vai “acordar”. São perguntas fascinantes e são um desvio. Enquanto o debate público gira em torno delas, as questões que de fato estão sobre a mesa, como especificar objetivos de forma robusta, como manter a velocidade do desenvolvimento abaixo da velocidade da compreensão, quem audita o quê, ficam sem audiência.

Do outro lado, e de forma mais insidiosa, o espantalho gera falsa tranquilidade. Quando alguém demonstra, com razão, que Skynet é ficção, o ouvinte tende a concluir que, então, não há nada com que se preocupar. A refutação do espantalho é lida como refutação do risco. É o movimento mais comum e o mais equivocado: “não é como no filme, logo é bobagem”. O problema é que a distância entre o filme e a realidade não é a distância entre o perigoso e o seguro. É a distância entre um perigo imaginário e um perigo real de outra natureza.

Há um paralelo útil na própria segurança da informação, e ele vale porque é o território deste site. O grande vazamento de dados quase nunca acontece como no cinema, com o invasor de capuz digitando furiosamente enquanto barras de progresso sobem. Acontece por uma credencial mal configurada, uma permissão excessiva concedida a um sistema automatizado, um dado que fluiu para onde não devia sem que ninguém percebesse. O dano é real e o mecanismo é tedioso. Quem só sabe procurar o invasor de capuz nunca vê o vazamento chegar. Com a inteligência artificial, o mesmo vale: quem só sabe procurar o robô assassino nunca vai enxergar o sistema competente e desalinhado agindo dentro das regras que lhe foram dadas.

A régua que fica

Não é preciso decidir, para tirar algo deste episódio, se Coxon tem razão sobre o prazo, se dez por cento é uma estimativa sólida ou exagerada, ou se a corrida entre laboratórios pode mesmo ser desacelerada. Essas são questões em aberto, e pessoas competentes discordam sobre elas de boa-fé. O que este episódio oferece de mais durável não é uma resposta, é uma régua.

A régua é a seguinte: diante da próxima manchete sobre a IA que vai “acabar com a humanidade”, vale perguntar de qual das duas coisas ela está falando. Se a resposta envolver consciência, ódio, rebelião ou robôs, trata-se do espantalho, e pode ser deixado de lado, não porque a IA seja inofensiva, mas porque essa descrição específica aponta para o lugar errado. Se a resposta envolver objetivos mal especificados, sistemas agindo sem supervisão, capacidade crescendo mais rápido que o entendimento, então trata-se do problema real, e ele merece atenção proporcional, sem o desconto que o alívio de “não é Skynet” costuma trazer embutido.

O maior serviço que o medo do Exterminador presta a quem constrói esses sistemas talvez seja involuntário: ao concentrar toda a ansiedade pública num cenário que não vai acontecer, ele deixa o cenário que pode acontecer confortavelmente fora de foco. Desmistificar o Skynet, portanto, não é acalmar o público. É a condição para que ele finalmente consiga olhar para a coisa certa.

Referências

COXON, Jacob. I resigned from Anthropic today. Publicação no X (Twitter), 8 set. 2026. Disponível em: https://x.com/hilbertspaess/status/2097476196791709843. Acesso em: 16 set. 2026.

TECHCRUNCH. ‘Gambling with our lives’: Anthropic researcher quits, warns against self-improving AI. [S. l.]: TechCrunch, 9 set. 2026. Disponível em: https://techcrunch.com/2026/09/09/gambling-with-our-lives-anthropic-researcher-quits-warns-against-self-improving-ai/. Acesso em: 16 set. 2026.

TIME. He Helped Build Powerful AI at OpenAI and Anthropic. Now He’s Afraid It Could Kill Us. [S. l.]: TIME, 9 set. 2026. Disponível em: https://time.com/article/2026/09/09/ai-anthropic-openai-jacob-coxon/. Acesso em: 16 set. 2026.

TIME. Jacob Coxon’s resignation put AI safety in the spotlight. Can companies and governments agree to act?. [S. l.]: TIME, 15 set. 2026. Disponível em: https://time.com/article/2026/09/15/ai-anthropic-researcher-quits-coxon-slowdown/. Acesso em: 16 set. 2026.