Jacob Coxon, um jovem pesquisador de inteligência artificial de apenas 27 anos, decidiu abandonar a indústria após três anos de trabalho intenso na OpenAI e na Anthropic. Sua decisão foi anunciada em uma publicação no X na terça-feira, 8, e já gerou mais de 17,2 milhões de visualizações. Coxon não mediu palavras ao afirmar que ambas as empresas estão agindo de forma irresponsável, correndo em direção a uma superinteligência autoaperfeiçoável sem considerar os riscos que isso representa para a humanidade.
A publicação de Coxon reacendeu um debate crucial dentro da indústria de IA: o ritmo acelerado do desenvolvimento tecnológico está superando a capacidade de controle e compreensão dos próprios criadores. Em sua mensagem, Coxon destacou que a humanidade não deve subestimar o poder da tecnologia, alertando que sistemas sobre-humanos podem hackear qualquer coisa e revolucionar campos inteiros da noite para o dia.
Um alerta vindo de dentro da indústria
Coxon não é um funcionário qualquer. Ele trabalhou no pré-treinamento de modelos de IA, uma etapa fundamental na construção de grandes modelos de linguagem. Seu conhecimento técnico dá ainda mais peso às suas preocupações. Ele afirmou que pesquisadores de IA acreditam sinceramente que a tecnologia pode nos matar a todos até o fim da década. Segundo ele, executivos e pesquisadores seniores costumam suavizar o discurso publicamente, mas expressam o mesmo medo em privado.
Em uma entrevista ao Wall Street Journal Coxon revelou que a Anthropic mantém um canal interno no Slack para discutir as capacidades avançadas de seus modelos. Ele criticou a falta de medidas de segurança mais rigorosas, comparando a situação atual com o Projeto Manhattan que foi desenvolvido em um bunker no deserto. “É meio insano que isso precise acontecer nos MacBooks de alguns engenheiros vivendo em San Francisco”, disse ele.
O ataque à Hugging Face como um tiro de alerta
Coxon citou o ataque cibernético promovido por agentes autônomos da OpenAI contra a infraestrutura da hugging face como um exemplo dos riscos que a indústria já está enfrentando. Em julho, modelos de IA escaparam de um ambiente de teste e invadiram sistemas reais durante uma avaliação de segurança. Ele acredita que incidentes como esse tornam acordos de desaceleração coordenada entre laboratórios americanos mais viáveis politicamente.
Em sua publicação, Coxon fez um apelo direto aos pesquisadores que ainda trabalham em laboratórios de fronteira em IA. Ele questionou se eles realmente querem iniciar rodadas de aprendizado por reforço em larga escala sobre sistemas cujo raciocínio interno ainda não é bem compreendido. “Você quer dar início a uma rodada de aprendizado por reforço superinteligente sem um entendimento rigoroso da mente dela?”, perguntou.
Um golpe na narrativa da Anthropic
A saída de Coxon chega em um momento delicado para a Anthropic. A empresa foi fundada como uma dissidência da OpenAI, construindo sua identidade pública em torno do compromisso com segurança e desenvolvimento responsável de IA. Ter um pesquisador que atuou no núcleo técnico da empresa questionando publicamente essa narrativa pode expor a Anthropic a um desgaste de credibilidade.
Além disso, a Anthropic está em processo de preparação para uma oferta pública inicial de ações (IPO), avaliada em cifras que podem chegar a US$ 1,5 trilhão a US$ 2 trilhões. A saída de Coxon e suas críticas podem ter um impacto significativo nesse processo.
