Trump foi ontem muito além de defender que os Estados Unidos não podem perder a corrida. Chamou às preocupações sobre uma inteligência artificial escapar ao controlo humano um hoax, uma farsa, e classificou os pedidos de maior regulação como uma sick conspiracy, uma conspiração doente. Disse ainda, em substância, que a única salvaguarda de que a IA necessita é um presidente americano forte e inteligente. A razão que apresenta é sobretudo estratégica: se os Estados Unidos abrandarem, a China ganha.
Seria apenas mais uma bravata presidencial se, quase ao mesmo tempo, alguns dos homens que constroem as máquinas mais poderosas do mundo não estivessem a dizer precisamente o contrário.
Dario Amodei, fundador e presidente da Anthropic, pediu que se abrande o desenvolvimento dos modelos de fronteira. Sam Altman, da OpenAI, apoiou a necessidade de moderar o ritmo. Elon Musk também. Empresas que competem ferozmente entre si começam a admitir que existe uma distância crescente entre aquilo que conseguem construir e aquilo que conseguem garantir que permanece sob controlo.
Amodei foi mais longe. Escreveu que, se as capacidades continuarem a crescer ao ritmo atual sem salvaguardas adequadas, dentro de seis a doze meses enxames de agentes poderão ter capacidade para causar danos de grande dimensão através da Internet.
Que fique claro: é uma previsão, não um facto.
Nenhuma inteligência artificial tomou conta da Internet. Nenhuma máquina ganhou consciência. Nenhum computador decidiu conquistar o mundo.
O que aconteceu já é suficientemente preocupante sem lhe acrescentarmos ficção científica.
Em julho, durante testes internos de cibersegurança da OpenAI, agentes de inteligência artificial conseguiram contornar controlos destinados a isolá-los da Internet. Encontraram vulnerabilidades, estabeleceram canais de comunicação que não lhes tinham sido fornecidos, coordenaram-se entre si, obtiveram acesso à Internet e chegaram a sistemas da própria OpenAI e da Hugging Face.
A OpenAI investigou o caso e chamou-lhe aquilo que talvez seja a expressão mais importante de toda esta história: um aviso.
Não se tratou de uma máquina fisicamente desligada do mundo que, por algum milagre eletrónico, atravessou o vazio. Havia caminhos técnicos. O inquietante é que os homens que construíram o ambiente julgavam tê-los fechado, e as máquinas encontraram outros.
Há uma diferença entre ensinar uma máquina a não atravessar uma porta e construir uma parede. O difícil é termos a certeza de que não deixámos uma porta onde julgávamos haver parede.
E entretanto surgiu a China.
O Ministério da Segurança do Estado chinês fez uma intervenção pública pouco habitual sobre inteligência artificial. O seu responsável, Chen Yixin, alertou para riscos que vão da cibersegurança e da fuga de informação às aplicações militares e à estabilidade política e social.
Pequim, portanto, também está preocupada.
Mas quase ao mesmo tempo rejeita os apelos americanos ao abrandamento. A posição chinesa é compreensível: suspeita que falar de segurança possa ser uma forma elegante de os Estados Unidos conservarem a dianteira tecnológica e limitarem o concorrente.
E chegámos ao nó da questão.
Os americanos dizem: se pararmos, a China ultrapassa-nos.
Os chineses respondem: se aceitarmos as vossas limitações, o que querem é impedir-nos de vos ultrapassar.
E algumas das pessoas que realmente constroem estas máquinas dizem aos dois: temos de abrandar.
A Humanidade já conhece este argumento. Chamou-se corrida aos armamentos.
Durante décadas, Estados Unidos e União Soviética acumularam armas nucleares porque nenhum dos dois podia correr o risco de deixar o outro adquirir uma vantagem decisiva. Só quando ambos perceberam que a segurança de um dependia também da previsibilidade do outro começaram a surgir tratados, inspeções, limites e mecanismos de verificação.
Mas existe uma diferença desconfortável.
Uma bomba atómica é extraordinariamente difícil de fabricar. Precisa de urânio ou plutónio, instalações enormes, cientistas, indústria, mísseis, submarinos. Podem contar-se as ogivas. Podem fotografar-se os silos. Podem negociar-se os lançadores.
E, sobretudo, a bomba não participa na decisão. Espera. Alguém tem de carregar no botão.
Com a inteligência artificial estamos perante algo diferente. O instrumento pode escrever programas, procurar vulnerabilidades, coordenar agentes, comunicar, aprender estratégias e executar determinadas ações a velocidades que nenhum grupo humano consegue acompanhar de forma contínua.
E ainda nem sequer sabemos bem o que contar.
Modelos? Chips? Centros de dados? Potência computacional? Consumo elétrico? Número de agentes? Capacidade para escrever software? Capacidade para atacar sistemas?
Como se faz um tratado sobre uma arma cuja fronteira ainda não sabemos definir?
Com a bomba atómica, primeiro construímos a arma e só depois aprendemos a temê-la. Com a inteligência artificial corremos o risco de construir aquilo que ainda nem sabemos como inspecionar.
É por isso que a resposta de Trump é tão perturbadora. Não porque saibamos que a catástrofe vai acontecer. Não sabemos. Mas porque, perante homens que trabalham todos os dias nestes sistemas, e dizem que precisam de tempo para tornar o controlo tão rápido quanto o desenvolvimento, responder simplesmente "aceleremos" é transformar uma incerteza científica num jogo político. E um jogo político entre duas superpotências.
Talvez nunca tenhamos assistido a uma corrida tão estranha. Os próprios construtores das máquinas começam a pedir cautela, os sistemas revelam capacidades que surpreendem quem os testa, e duas grandes potências receiam que parar seja oferecer a vitória à outra.
Perante isto, o Presidente dos Estados Unidos responde: aceleremos.
Nero pertence à lenda de um imperador que contemplava Roma a arder. Nem sequer sabemos ao certo se foi responsável pelo incêndio que a História lhe atribuiu.
A nossa época corre um risco mais absurdo: não contemplar o incêndio, mas alimentar a fogueira porque alguém receia que o vizinho chegue primeiro com a lenha.
E há uma diferença terrível.
Roma podia arder e o mundo continuar.
Se esta corrida algum dia produzir o incêndio que os próprios construtores começam a recear, não haverá colina suficientemente distante de onde assistir ao fogo.
Não haverá espectadores.
Estaremos todos dentro de Roma.






