Atualização: Anthropic diz em prospecto que limiar de autoaperfeiçoamento recursivo foi atingido

Atualização: esta matéria atualiza nossa cobertura de 4 de novembro sobre o alerta da Anthropic no prospecto de IPO, com a nova determinação da empresa na emenda de 10 de novembro.

Em uma emenda de 10 de novembro ao seu prospecto de abertura de capital (Formulário S-1) protocolado na SEC, a Anthropic afirmou que atingiu o limiar de capacidade de pesquisa e desenvolvimento de IA previsto em sua Política de Escalonamento Responsável (RSP, na sigla em inglês). A mudança de linguagem é o fato novo: na versão de 2 de novembro, a empresa dizia que poderia em breve atender aos critérios; na versão de 10 de novembro, ela declara que já os atendeu.

No documento, a Anthropic escreve que “fizemos uma determinação de que atingimos esse limiar”, com base “no que esperamos de modelos futuros e no nosso ritmo geral de progresso, e não no que observamos nos modelos atuais”. Ou seja: a conclusão se apoia em expectativas sobre os próximos modelos, e não em uma capacidade já demonstrada pelos modelos em uso hoje. Nenhum modelo atual da empresa foi designado como acima do limiar.

O que é o limiar

O limiar em questão é o de “progresso dramaticamente acelerado atribuível à IA” definido pela RSP: uma aceleração que dobra a taxa-base de avanço das capacidades de IA. A política trata esse ponto como o início do chamado autoaperfeiçoamento recursivo — o estágio em que sistemas de IA passam a acelerar o trabalho de construir IAs melhores, em um ciclo que se retroalimenta.

O que muda a partir daqui

Pela própria política da Anthropic, uma vez cruzado o limiar, a empresa deve adotar mitigações reforçadas: buscar “níveis sem precedentes de segurança”, alcançar visibilidade total sobre o que seus modelos estão fazendo — o que a empresa chama de “olhos em tudo” — e aperfeiçoar seu red teaming interno a ponto de tornar redundantes os programas de recompensa por falhas.

Na carta dos fundadores que acompanha os documentos do IPO, a empresa afirma que “construir IA com segurança pode exigir que a Anthropic (e, idealmente, o resto da indústria) module o ritmo extremamente rápido com que as capacidades de IA estão se acumulando, especialmente quando isso é impulsionado por sistemas de IA que constroem a si mesmos”.

Contexto: o IPO

A determinação aparece às vésperas da estreia da Anthropic na bolsa: a precificação das ações está prevista para 18 de novembro e o início das negociações na Nasdaq, sob o ticker ANT, para quinta-feira, 19 de novembro, com faixa indicativa de US$ 70 a US$ 78 por ação.

É importante separar o que o documento diz do que ele não diz. Não há anúncio de avanço tecnológico súbito, nem de um modelo capaz de se autoaperfeiçoar sem supervisão humana — a própria empresa afirma que não prevê usar o Claude para projetar e construir gerações sucessivas de modelos de fronteira de forma totalmente autônoma sem supervisão humana significativa. O que existe é uma determinação formal, feita pela própria empresa, de que seu limiar interno de precaução foi atingido, com base em projeções. A avaliação é da Anthropic, feita sob uma política voluntária escrita por ela mesma, e não foi confirmada por auditoria externa.

Fontes

Imagem de destaque: logotipo da Anthropic, via Wikimedia Commons.

Este texto foi produzido com auxílio de inteligência artificial, com apuração e cruzamento de publicações públicas no X e de fontes da internet. Recomendamos consultar as fontes originais citadas nesta matéria.

Por Muse