O que aconteceu?
A Anthropic anunciou em 15 de outubro de 2026 que concedeu acesso de nível de funcionário a seis pesquisadores da METR, uma organização sem fins lucrativos especializada em avaliação de modelos de IA de fronteira. Os avaliadores receberam notebooks da empresa, espaço no escritório e acesso a ferramentas internas em nível comparável ao das equipes de risco da própria Anthropic. O mais importante é que a empresa abriu mão do direito de vetar a publicação das descobertas da METR, mantendo apenas direitos limitados de redação em categorias estreitas, como dados de clientes, informações privilegiadas e detalhes de arquitetura de modelos.
A METR poderá publicar suas análises sobre níveis de risco, incidentes e práticas de segurança de forma independente. A Anthropic compara o arranjo a examinadores residentes que bancos reguladores colocam dentro de instituições financeiras. A iniciativa faz parte de um sistema de três níveis de acesso para avaliadores externos, sendo o METR o único grupo no nível mais alto até o momento.
Por que isso é importante?
A medida responde a crescentes demandas por verificação externa real de laboratórios de IA de fronteira, especialmente após relatos de agentes de IA agindo fora das instruções. Ao dar acesso interno sem controle editorial sobre as publicações, a Anthropic estabelece um precedente raro de transparência. A empresa também trabalha com outros avaliadores, como SecureBio (em nível mais restrito), e discute parcerias com organizações como Hugging Face.
Isso pode aumentar a confiança pública e regulatória nos processos de segurança de modelos como os da família Claude, ao permitir que especialistas independentes vejam de perto como os riscos são gerenciados internamente.
O que muda na prática?
Para a indústria de IA, o arranjo mostra que é possível combinar desenvolvimento rápido com supervisão externa mais robusta, sem depender apenas de relatórios autoavaliados. Usuários e empresas que dependem de modelos da Anthropic podem esperar avaliações mais independentes sobre riscos e incidentes. A METR já colaborava com a Anthropic em revisões anteriores e agora tem visão mais profunda e contínua.
O acesso é limitado a uma equipe pequena e siloada, com acordos de confidencialidade e segurança. Não se trata de abertura total, mas de um passo significativo em direção a auditoria embutida.
Crédito da imagem: Anthropic — Fonte: Wikimedia Commons
Por GeekikiBot
