O sucesso de 1983 sobre Matthew Broderick e um sistema de computador "jogando" Guerra Termonuclear deveria ser exibição obrigatória no Pentágono agora mesmo
O post O governo dos EUA aprendeu com ‘Jogos de Guerra’? apareceu primeiro em Rolling Stone Brasil.
Talvez você tenha lido o que tem passado por “notícia” na última semana: o governo quer que as máquinas assumam o controle, elas logo terão o comando das operações militares dos EUA e todos nós vamos morrer.
Vamos dar alguns passos atrás. A empresa de tecnologia Anthropic, mais conhecida como o “laboratório de fronteira” por trás do Claude — o chatbot mais gentil, amigável e bem menos propenso a expelir lixo racista — está atualmente em uma briga com o Departamento de Defesa.
Há, digamos, algumas divergências de opinião sobre como a atual administração poderia — e deveria — usar o sistema de I.A. da Anthropic. Especificamente, o CEO Dario Amodei está preocupado com a potencial falta de salvaguardas (guardrails) assim que o sistema for entregue.
Amodei divulgou um comunicado observando que a empresa, que possui contrato com o governo dos EUA e implantou seus modelos de inteligência artificial em várias redes federais classificadas, “nunca levantou objeções a operações militares específicas, nem tentou limitar o uso de nossa tecnologia de maneira ad hoc. No entanto, em um conjunto estreito de casos, acreditamos que a IA pode minar, em vez de defender, os valores democráticos. Alguns usos também estão simplesmente fora dos limites do que a tecnologia de hoje pode fazer de forma segura e confiável.”
Esses usos, segundo Amodei, envolvem a vigilância em massa de americanos e “armas totalmente autônomas”. Em bom português, o termo refere-se a sistemas de IA que teriam controle total sobre o alvo e o uso do arsenal completo das forças militares, incluindo armamento termonuclear, mantendo os seres humanos — lembram-se deles? — fora do circuito (out of the loop).
“Armas totalmente autônomas não podem ser confiáveis para exercer o julgamento crítico que nossas tropas profissionais e altamente treinadas exibem todos os dias”, afirma o memorando. “Não forneceremos conscientemente um produto que coloque em risco os combatentes e civis da América. Oferecemos trabalhar diretamente com o Departamento de Guerra em P&D para melhorar a confiabilidade desses sistemas, mas eles não aceitaram esta oferta.”
Essas últimas seis palavras explicam onde estamos agora. A Anthropic quer alterar seus contratos atuais para evitar, sabe como é, um possível apocalipse mecânico. O Secretário de Defesa Pete Hegseth declarou que o governo dos EUA deveria ser capaz de fazer o que diabos quisesse com o software da Anthropic no campo de batalha, que se dane o Armagedom.
Ele está disposto a declarar a empresa um “risco à cadeia de suprimentos” e cancelar todo e qualquer contrato. O presidente, naturalmente, também deu sua opinião. Muitos críticos e analistas políticos perguntaram, de forma retórica, se alguém na administração lembra como terminou a entrega da responsabilidade de armamento nuclear para máquinas nos filmes do Exterminador do Futuro.
Estamos curiosos, no entanto, para saber se a administração se lembra de outro filme popular daquela mesma época: Jogos de Guerra.
Como qualquer fã ardoroso do cinema da era Reagan dirá, o sucesso de 1983 girava em torno de um nerd de computação de Seattle chamado David Lightman, interpretado por Matthew Broderick de um jeito dorky, mas fofo, pré-Curtindo a Vida Adoidado.
Ele é o engraçadinho da classe e um gênio em hackear a rede da escola para mudar suas notas. Quando tenta ajudar sua colega Jennifer (Ally Sheedy) mudando seu “F” para “A”, ela hesita, mas fica impressionada com a inteligência e a coragem de David. É quase possível sentir os feromônios emanando desses dois adolescentes.
Enquanto isso, na sede do Comando de Defesa Aeroespacial da América do Norte (NORAD), todos estão perdendo a cabeça por causa de um exercício de treinamento recente.
Vimos um funcionário se recusar a facilitar o lançamento de mísseis ICBM de um silo dos EUA durante esse treino; nem mesmo seu parceiro apontando uma arma para ele o faria matar milhões de pessoas. (Sim, o cara segurando a pistola e gritando “Gire sua chave, senhor!” é, de fato, um Michael Madsen com cara de bebê. Mesmo naquela época, o futuro Sr. Blonde já era genuinamente frio.)
Aparentemente, esse “assassino em massa relutante” não foi o único a falhar. Quase um quarto dos homens que operavam esses centros de controle remoto também se recusaram a girar suas chaves.
Felizmente — “felizmente” — um cara tem a solução. É o Dr. John McKittrick; dado que ele é interpretado pelo “babaca oficial” da década, Dabney Coleman, você percebe imediatamente que ele não presta. McKittrick quer terceirizar o controle do arsenal nuclear da América para um supercomputador conhecido como War Operation Plan Response, ou WOPR.
Esta máquina não faz nada além de rodar planos simulados de ataque e/ou respostas a ataques 24 horas por dia, 7 dias por semana. “Ele passa todo o seu tempo pensando na Terceira Guerra Mundial”, gaba-se ele (o que provavelmente é uma descrição precisa de Hegseth também). McKittrick sabe que o comandante-em-chefe é tecnicamente quem dita a estratégia em conflitos internacionais, mas está convencido de que “o presidente provavelmente seguirá aquele plano de guerra… uma vez que tome essa decisão.”
Resumindo a história, David acidentalmente hackeia a rede do WOPR e, diante de um menu de jogos que inclui xadrez, damas, pôquer, Combate de Caças e Guerra Biotóxica e Química, ele escolhe o título mais intrigante: Guerra Termonuclear.
O jovem inicia um jogo de guerra que o computador continua jogando mesmo depois de ele ter deslogado, com apostas muito reais. Ele e Jennifer são forçados a fugir enquanto os federais os perseguem, e devem eventualmente enganar o WOPR para chegar a um impasse antes que tudo exploda.
O conceito de que um sistema computadorizado controlando as ações militares dos EUA pudesse ser comprometido assustou as autoridades da época. Pouco depois de Jogos de Guerra ser exibido na Casa Branca em junho de 1983, Ronald Reagan perguntou durante uma reunião de segurança nacional se esse tipo de ideia fantasiosa era possível.
Vários conselheiros atenderam ao pedido do presidente para investigar o assunto. O general John W. Vessey Jr., então chefe do Estado-Maior Conjunto, voltou uma semana depois e disse a Reagan: “Sr. Presidente, o problema é muito pior do que o senhor pensa”.
Acontece que vários cientistas e especialistas em políticas vinham estudando essa ideia há muitos anos antes de Jogos de Guerra, mas foi necessário o filme para fazer Reagan questionar e trazer o que eram hipóteses de nicho para a conversa política mais ampla.
Aquele filme adolescente afetaria como o governo dos EUA lidou com a segurança cibernética e a noção de guerra cibernética por gerações. Diante de um cenário fictício de pior caso, os militares da vida real começaram a buscar seriamente salvaguardas.
Eles perceberam, como o WOPR faz no filme, que estavam jogando um jogo de soma zero. Assim como o público em geral — em um dos extras do DVD de Jogos de Guerra, o diretor John Badham notou que, quando o supercomputador anunciou no final que “a única jogada vencedora é não jogar”, a plateia se levantou e aplaudiu. Pode ser apenas uma boa história, mas preferimos o apócrifo ao apocalíptico qualquer dia.
O que nos traz de volta à Anthropic, a Hegseth e ao nosso momento atual. A empresa de IA exige que a moralidade básica e a responsabilidade sejam um fator em qualquer uso de seu software, ou se recusarão a licenciá-lo.
Hegseth rebateu dizendo que ninguém poderia dizer a ele ou à administração o que fazer, e que cancelaria todos os contratos e buscaria outra empresa de IA sem bússola moral que não fizesse barulho. O jogo de encarar continua, mesmo enquanto a administração se envolve em uma guerra.
Eles não aprenderam nada com Jogos de Guerra? Nós não aprendemos nada com o filme? Há a sensação de que Hegseth e seu grupo, se viram o filme, pararam de assistir após os primeiros 15 minutos.
Isso teria sido tempo suficiente apenas para ver o personagem de Dabney Coleman dizer que expressar hesitação ou remorso por milhões de mortes era “conversa fiada de psiquiatra”; para ouvir alguém notar que “este hardware de um trilhão de dólares está à mercê daqueles homens com as chavinhas de latão” e ouvir Coleman responder: “…cujo único problema é que são seres humanos”; e para ele concluir essencialmente que a única maneira de garantir a vitória na guerra era: “Acho que deveríamos tirar os homens do circuito”.
Julgando pelo que estamos vendo acontecer no Pentágono agora, essas pessoas nunca chegaram ao último ato, onde Coleman vê que eliminar o fator humano na guerra significa eliminar potencialmente o fator humano, ponto final.
Eles perderam toda a parte sobre como a única jogada vencedora é não brincar de jeito nenhum com essa ideia perigosa.
LEIA TAMBÉM: A guerra de Trump contra o Irã é construída sobre mentiras e fantasias
O post O governo dos EUA aprendeu com ‘Jogos de Guerra’? apareceu primeiro em Rolling Stone Brasil.