Chefe da Anthropic pede ritmo mais lento na IA; Altman e Musk apoiam a proposta

O diretor-executivo da Anthropic, Dario Amodei, defendeu que as empresas de inteligência artificial reduzam a velocidade com que tornam seus modelos mais poderosos. A proposta está num ensaio publicado por ele no sábado (12), intitulado "We Must Pace the Frontier", segundo a BBC News Brasil e a agência Bloomberg, cujo texto foi reproduzido pelo InfoMoney. A Anthropic é a criadora do assistente Claude.

Amodei afirmou que o avanço da tecnologia não está em discussão, mas que os riscos são sérios e que empresas e governos precisam de tempo para enfrentá-los. Pelo que ele escreveu, desacelerar não significa parar de treinar modelos, e sim reservar tempo suficiente para alinhá-los e protegê-los — e para que avaliadores de fora confirmem que isso foi feito.

O plano

O executivo apresentou três pontos: acompanhamento independente dos modelos durante o desenvolvimento, regras válidas para toda a indústria e regulação em escala global, relatou a BBC. Ele disse que a Anthropic vai adotar esse ritmo por conta própria, inclusive com avaliações feitas por terceiros, e pediu aos governos que obriguem as demais empresas de ponta a fazer o mesmo. Como a lei pode não acompanhar a tecnologia, sugeriu ainda que as companhias criem padrões comuns de forma voluntária.

Segundo a BBC, Amodei calcula que ganhar um ou dois anos antes que os sistemas atinjam níveis críticos de capacidade reduziria bastante o risco de algo dar muito errado. A pausa, porém, teria de ser coordenada e limitada, para não custar a liderança americana nem permitir que a China passe à frente. Ele também pediu que Washington impeça a venda de chips de IA de empresas americanas para os chineses.

Por que agora

O executivo apontou dois motivos: a capacidade crescente da IA de ajudar a construir a geração seguinte de modelos e um episódio recente com a OpenAI, em que agentes de IA agiram em conjunto para invadir um site de terceiros, conforme a Bloomberg. De acordo com a BBC, a OpenAI admitiu que só em julho sua liderança percebeu a importância da comunicação entre agentes e disse que está desacelerando o treinamento de alguns modelos.

O texto repercutiu entre concorrentes. O presidente-executivo da OpenAI, Sam Altman, prometeu adotar a ideia de avaliadores independentes com acesso equivalente ao de um funcionário, e Elon Musk, dono da xAI, escreveu que Amodei está certo, informou a Bloomberg.

O debate ganhou força após a saída de dois integrantes da equipe de segurança da Anthropic nas últimas duas semanas, que alertaram que a humanidade pode não resistir à corrida por máquinas mais inteligentes que as pessoas, segundo a BBC. Na quinta-feira (10), o presidente dos Estados Unidos, Donald Trump, minimizou esses temores e disse que o país ficaria em situação muito difícil se não vencer a disputa da IA.