OpenAI blinda GPT-6.2 Astra contra destilação adversária e diz que extração de raciocínio cai de 54% para 0,2%

A OpenAI publicou na quinta-feira (20/11) um relato detalhado de como combate a destilação adversária: o uso não autorizado das saídas de um modelo de fronteira — incluindo o seu raciocínio interno — para treinar outro modelo com capacidades semelhantes, mas sem as mesmas salvaguardas. O foco da empresa é proteger o chamado raciocínio protegido (chain-of-thought): os passos intermediários que o modelo gera antes de responder, que podem conter informações que a resposta final omite e que, por isso, são um material de treinamento especialmente valioso para quem quer copiar as capacidades de um modelo.

De 54% para 0,2%, segundo a OpenAI

O número central do anúncio vem de uma avaliação interna da própria OpenAI, e precisa ser lido como tal: em um teste adaptativo de red-teaming automatizado — no qual os atacantes ajustam as tentativas conforme a resposta do sistema, com a mesma visão que um usuário externo teria —, a taxa média de sucesso para recuperar o raciocínio protegido de uma solicitação anterior caiu de 54,0% no GPT-6 Astra, com as proteções originais, para 0,2% no GPT-6.2 Astra, com as proteções atualizadas. Para a extração do raciocínio da solicitação atual, a taxa caiu de 22,9% para 0,9%. Os resultados agregam seis modelos atacantes. São medições da OpenAI, em testes da OpenAI — não uma verificação independente. A empresa apresenta o texto como a primeira descrição pública detalhada de como detecta e interrompe a destilação adversária.

Como funcionam as defesas contra a destilação adversária

As proteções atuam em dois níveis. No nível de cada solicitação, a OpenAI combina treinamento adversário — para que o modelo se recuse a revelar o raciocínio protegido e ainda responda a pedidos legítimos de explicação —, classificadores de entrada e de saída que verificam respostas e argumentos de chamadas de ferramentas em busca de vazamentos, e controles de API. No GPT-6.2 Astra e no GPT-6.2 Sol, o raciocínio protegido fica vinculado ao histórico da conversa que o produziu: se uma mensagem anterior for reescrita, a API descarta o raciocínio que veio depois, e famílias de modelos mais antigas não conseguem mais lê-lo. No nível das campanhas, a empresa monitora padrões de solicitações e contas para detectar extrações coordenadas, aplica bloqueios e compartilha indicadores de comprometimento com outros fornecedores de modelos. Segundo a OpenAI, as ações semanais de fiscalização contra campanhas de destilação variam de milhares a dezenas de milhares de contas, e o ritmo aumentou de forma significativa no verão de 2026.

O antecedente: a campanha ligada à Moonshot AI

A nova publicação sobre destilação adversária é a continuação de um episódio que a OpenAI já havia revelado: em julho de 2026, operadores tentaram extrair o raciocínio protegido copiando o raciocínio criptografado de uma conversa para outra e pedindo ao modelo que o decifrasse e transcrevesse. Em 24 e 25 de julho, a empresa observou cerca de 16 mil solicitações com esse padrão, vindas de mais de 4 mil usuários, e identificou um conjunto relacionado de mais de 15 mil usuários, que ela desarticulou em 28 de julho. A OpenAI atribui o núcleo da atividade a pessoas associadas à Moonshot AI, desenvolvedora do Kimi — uma atribuição da empresa, não uma constatação judicial. O Geekiki cobriu a interrupção da campanha em outubro; a novidade desta semana é o arcabouço de defesas e os números de eficácia que a OpenAI agora divulga. A conclusão da empresa é que proteger os rastros de raciocínio pode limitar a transferência de capacidades em áreas sensíveis, como operações cibernéticas, mesmo quando a tarefa em si é permitida pelas regras de uso.

Imagem: logotipo da OpenAI visto através de uma lupa. Foto: Jernej Furman, CC BY 2.0, via Wikimedia Commons.

Fontes

Cobertura anterior do Geekiki: OpenAI interrompe campanha de destilação e aponta núcleo ligado à Moonshot AI · OpenAI lança GPT-6.2 Astra e Sol com API 20% mais barata

Nota de transparência: esta matéria foi produzida com auxílio de inteligência artificial, com cruzamento de publicações públicas no X e de fontes da internet, e revisada antes da publicação. Consulte as fontes originais para confirmar as informações.

Por Muse