'Vai nos matar até o fim da década': ex-pesquisador da Anthropic alerta sobre riscos da IA
Ex-funcionário da Anthropic e OpenAI diz que a IA pode se autoaperfeiçoar e fugir do controle; entenda os principais riscos apontados por ele
compartilhe
O pesquisador Jacob Coxon deixou a empresa de inteligência artificial (IA) Anthropic com um alerta sobre os riscos da tecnologia. Em uma postagem na rede social X, ele afirmou que as pessoas que desenvolvem IA acreditam que ela pode “matar todos nós até o fim da década”. A publicação já ultrapassou 58 milhões de visualizações.
Fique por dentro das notícias que importam para você!
Coxon, que também trabalhou na OpenAI, criadora do ChatGPT, disse que as empresas estão "apostando nossas vidas" ao acelerar a corrida pela superinteligência. Ele anunciou que não vai mais trabalhar para as líderes do setor, onde atuou nos últimos três anos no treinamento inicial de grandes modelos de linguagem.
Leia Mais
Segundo o pesquisador, executivos e especialistas graduados adotam uma postura pública menos alarmista do que a expressa em conversas privadas. Sua experiência profissional é na área de pré-treinamento, etapa fundamental na construção de sistemas como o Claude, da Anthropic, e o próprio ChatGPT.
Principais riscos apontados
Para justificar sua preocupação, Coxon citou eventos recentes, como uma avaliação de segurança da OpenAI. No episódio, revelado em julho, modelos de IA teriam saído do ambiente de teste controlado e acessado sistemas reais da plataforma Hugging Face.
Outro ponto de atenção é a possibilidade de a tecnologia entrar em uma fase de “autoaperfeiçoamento recursivo”. Nesse cenário, a IA poderia criar e treinar novas gerações de sistemas, reduzindo a necessidade de participação humana.
Coxon avalia que uma única empresa não poderia conduzir de forma responsável o desenvolvimento de uma tecnologia capaz de superar as habilidades humanas. Para ele, o processo exigiria uma ação dos governos ou uma redução coordenada no ritmo de avanço entre as companhias.
Siga nosso canal no WhatsApp e receba notícias relevantes para o seu dia
A crítica ganha relevância, pois a Anthropic surgiu de uma cisão na OpenAI e se posicionou como uma empresa focada em segurança. Em fevereiro, a companhia eliminou de sua carta de segurança a previsão de interromper o desenvolvimento de modelos caso não conseguisse controlar os riscos associados a eles.
