Empresas de IA deveriam ter regras de usinas nucleares, diz ex-OpenAI

A cultura na indústria da inteligência artificial quebrou. É o que escreveu David Robinson num editorial publicado na The Atlantic nesta semana.

Por que o comentário dele importa? Bem, era Robinson quem escrevia os relatórios de segurança que acompanhavam grandes lançamentos de modelos de IA da OpenAI, desenvolvedora do ChatGPT.

IA precisa de salvaguardas de nível nuclear

Para Robinson, que saiu da OpenAI, o problema é tão profundo que regular o setor (leia-se: criar regras para o treinamento de modelos de IA) não seria suficiente.

O especialista escreveu que a IA precisa de salvaguardas de nível nuclear.

“Diante dos riscos atuais, os laboratórios de ponta precisam operar como usinas nucleares ou aeroportos movimentados, com camadas de redundância e um planejamento cuidadoso e demorado, para que o erro humano – ocasional e inevitável – não abra caminho para um desastre”, disse Robinson.

O Vale do Silício tem operado com “extrema confiança” e “sprints perpétuos”, escreve ele. Assim, a indústria constrói modelos maiores e melhores com “otimismo irrestrito” que ignora ou subestima problemas em potencial, segundo Robinson.

Ainda segundo ele, chegou a hora de empresas de IA desenvolverem um senso de humildade e olharem para além do mundo fechado da indústria de tecnologia, regido pela mentalidade de “agir rápido e quebrar coisas”.

O alerta de Robinson vem na esteira de pesquisadores e profissionais de segurança que deixaram seus cargos em empresas de destaque no setor de IA.

Jacob Coxon parece ter iniciado esse êxodo ao sair da Anthropic. No X/Twitter, seu colega Evan Hubinger escreveu que a IA “poderia nos matar a todos até o final da década”.

Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to.

— Evan Hubinger (@EvanHub) September 9, 2026

Depois de Coxon, pipocaram alertas de Robert O’Callahan, Bilal Chughtai e Josh Engels, do Google DeepMind, além de Joe Benton, da Anthropic.