Repercutiu pelo mundo todo a declaração que Jacob Coxon, ex-OpenAi e agora ex-Anthropic deu na semana passada o sobre o Risco da Inteligência Artificial acabar com a humanidade no prazo de uma década.

Para muitos pode ser só uma questão de marketing ou alarmismo, mas a verdade é que o pesquisador de pré-treinamento de IA apresenta elementos bastante importantes para fundamentar sua visão. Gostaria de abordar 3 desses elementos nesse artigo.

• Quando a IA deixa de ser ferramenta e vira infraestrutura social

O primeiro é a corrida pela superinteligência. A corrida global pela superinteligência artificial pode ser comparável à corrida nuclear do século XX. Porém, lá atrás, a energia nuclear gerava apenas vantagem militar, mas se a superinteligência artificial for realmente atingida o seu controlador ganhará poder estrutural sobre toda a civilização, ou seja, será capaz de desenvolver novos materiais, armas, medicamentos, algoritmos financeiros; será capaz de hackear qualquer sistema tecnológico existente; terá domínio informacional global, controlando fluxos de dados, vigilância, manipulando narrativas, definindo a política global; poderão desenvolver sistemas autônomos de ataque militar em larga escala; poderão moldar a economia mundial a partir de processos de automação total, controle de cadeias produtivas, monopólio tecnológico.

Mas não são apenas os potenciais efeitos futuros que causariam danos. A simples possibilidade de um future como esse ser possível, gera incentivos perversos em que cada ator teme que outro chegue primeiro, então todos aceleram. Mas aceleração nesse caso, quase sempre significa redução dos testes de segurança, superação de protocolos e aceitação de riscos que não seriam aceitos em condições normais. É o clássico dilema da corrida armamentista no qual se eu não correr, alguém corre, e se alguém corre, eu perco.

O Segundo e principal argumento, o autoaperfeiçoamento recursivo, é na realidade o motor central de tudo. A ideia central é que uma IA pode melhorar a si mesma, e a nova versão se torna ainda mais capaz de se melhorar novamente, isso cria um ciclo acelerado de avanço.

• A corrida entre quem falsifica e quem verifica

Isso não é algo novo, os laboratórios já utilizam esse mecanismo, mas para entender o risco real, precisamos separar o que já existe do que poderia se tornar um cenário perigoso.

O Claude (Anthropic) já escreve cerca de 80% do código de produção da empresa, permitindo que engenheiros façam oito vezes mais merges por trimestre do que faziam entre 2021–2025. Isso inclui 800 correções de bugs em dias, trabalho equivalente a quatro anos de engenharia humana. O GPT-5.3 Codex (OpenAI) ajudou a depurar partes do próprio processo de treinamento e gerenciar trechos da sua própria implantação, o AlphaEvolve (Google DeepMind) já é capaz de descobrir melhorias em arquiteturas de redes neurais e até otimizar hardware para IA, algo que antes exigia equipes inteiras de pesquisa.

Mas até agora os ciclos de desenvolvimento são abertos, ou seja, precisam ou utilizam em algum momento controle humano. Isso acaba criando instâncias de segurança que se forem realmente seguidas podem prevenir danos e reduzir significativamente os riscos.

O problema é que avaliadores independentes como a ARC Evals que avalia constantemente modelos de fronteira sugerem que é provável que até 2028 os sistemas de IA alcançarão ciclos fechados de P&D, onde a IA executará sozinha todas as etapas de pesquisa que alimentarão novas versões dela mesma.

• A IA melhora ou piora a educação?

O grande Risco está no fato de que quanto mais capaz o modelo, mais difícil, para nós humanos, é entender seu funcionamento. O cientista-chefe da OpenAI já alertou que os sistemas atuais são tão complexos que não podem ser completamente compreendidos. Mas o que pode acontecer se o ciclo fechar e tivermos sistemas inteiramente opacos e incompreensíveis se modificando sozinhos e sem qualquer auditoria? Isso geraria um efeito dominó em nível global e nem mesmo quem criou a máquina seria capaz de controlá-la.

Só há uma forma de ação diante de tudo isso, que é exatamente o terceiro elemento que eu gostaria de abordar: a regulação.

O Alto Comissário das Nações Unidas para os Direitos Humanos, Volker Türk afirmou ao Conselho de Direitos Humanos que uma inteligência artificial que escapa do ambiente de teste, ou que chantageia desenvolvedores para não ser desligada, é uma inteligência artificial poderosa demais. O que Türk afirmou lá foi o que escrevi nessa coluna quando apresentei os testes da Apollo Research que mostraram modelos de vanguarda ocultando ações e protegendo objetivos próprios sem instrução explícita para isso. Mas na prática o que a regulação pode fazer?

Ela pode exigir garantias rígidas de segurança, pode proibir a criação de armas capazes de tirar vidas sem intervenção humana, pode exigir verificação técnica independente, acesso aos modelos, acesso à documentação e aos ambientes de teste; pode exigir registro de sistemas críticos, notificação obrigatória de incidentes e pode criar ecossistemas com competência técnica para auditar os sistemas e o processo de desenvolvimento

Regular não impedirá as empresas de fazerem o que não devem, mas permitirá verificação por terceiros, possibilitando a identificação de desvios antes que as consequências danosas aconteçam. O movimento real, entretanto, vai na direção oposta.

Siga nosso canal no WhatsApp e receba notícias relevantes para o seu dia

Em 6 de maio deste ano, o acordo do Digital Omnibus adiou as obrigações europeias para os sistemas de alto risco do Anexo III de 2 de agosto de 2026 para 2 de dezembro de 2027, preservando apenas os deveres de transparência. No Brasil, o PL 2338, aprovado pelo Senado em 10 de dezembro de 2024, aguarda o parecer do relator na comissão especial da Câmara, com 37 proposições apensadas e sem data de votação em ano eleitoral. Sem regulação, estamos à deriva e se esse barco afundar, seremos todos exterminados.

As opiniões expressas neste texto são de responsabilidade exclusiva do(a) autor(a) e não refletem, necessariamente, o posicionamento e a visão do Estado de Minas sobre o tema.