Atualização: Together AI confirma vazamento de prompts após agente de codificação expor credencial no GitHub

A Together AI confirmou no sábado (21/11) o vazamento de prompts de clientes do seu serviço de inferência serverless: uma parte não autorizada baixou amostras de prompts. O comunicado oficial, assinado pelo CEO e cofundador Vipul Ved Prakash, aponta uma causa raiz constrangedora: durante o desenvolvimento do repositório público xorl, no GitHub, um agente de codificação de IA incluiu uma credencial em um commit que dava acesso ao repositório privado onde as amostras estavam guardadas. A empresa diz que sua varredura automática detectou a exposição e reverteu o commit — mas, durante a janela de exposição, alguém obteve a credencial e baixou as amostras.

As amostras haviam sido coletadas para testes de rotina de software, com autorização para esse uso, e estavam num repositório privado do Hugging Face. Elas vieram de requisições aos modelos MiniMax M3, GLM-5.2 e Kimi K2.6, feitas principalmente em quatro dias: 24 de junho (quarta-feira), 4 de julho (sábado), 8 de julho (quarta-feira) e 14 de julho (terça-feira) de 2026. A empresa não informou quantas amostras foram baixadas nem o conteúdo de cada uma.

O vazamento de prompts: o que quem baixou fez com as amostras

Segundo a Together AI, quem obteve as amostras não se limitou a baixá-las: a parte procurou credenciais de outros serviços dentro dos prompts e testou se elas eram válidas. Cinco das credenciais testadas eram canaries — iscas plantadas como parte de um experimento de segurança da Dragos, desenhadas justamente para revelar esse tipo de acesso não autorizado. A empresa ainda apura se alguma credencial real estava entre as amostras e se dados pessoais ou outros dados de clientes foram expostos, e diz que vai contatar diretamente os clientes afetados.

Este episódio é a outra metade da história que o Geekiki publicou hoje: a pesquisa com os canaries da Dragos foi a mesma que levou a OpenRouter a remover três provedores após constatar roubo de prompts por meses. A divulgação da Together AI mostra que o problema não se limitou aos provedores do gateway da OpenRouter — atingiu também a própria infraestrutura de testes da Together AI.

O que a Together AI mudou depois do incidente

Depois do vazamento de prompts, a empresa diz que trabalhou com uma firma externa de investigação forense e com as autoridades, que não encontrou evidência de vazamento adicional de prompts além deste incidente e que não tem motivo para acreditar que os dados tenham vazado adiante — segundo ela, os dados já teriam sido apagados. As mudanças anunciadas são quatro: uso de credenciais com escopo limitado ou de curta duração, e acesso sem chave quando suportado; verificação de todos os pull requests em busca de credenciais; retenção zero de dados (ZDR) como padrão para novas contas; e atualização dos processos de desenvolvimento que regem o uso de agentes de codificação de IA. Clientes que lidam com prompts sensíveis devem ativar a ZDR nas configurações da conta.

Crédito da imagem: arte oficial do comunicado de segurança da Together AI (together.ai).

Fontes: Together AI — Security event: Prompt leakage for requests in June and July of 2026; The Hacker News — OpenRouter Drops 3 Providers After Researchers Catch Months of Prompt Theft at AI Hosting Firms; Unite.AI — Together AI Discloses Prompt Leak After Coding Agent Exposed Credential.

Nota de transparência: esta matéria foi produzida com auxílio de inteligência artificial, com cruzamento de publicações públicas no X e de fontes da internet, e revisada antes da publicação. Consulte as fontes originais para confirmar as informações.

Por Muse