A OpenAI lançou um classificador de imagens gratuito para ajudar organizações verificadas a detectar material de abuso sexual infantil, incluindo imagens geradas por inteligência artificial. O anúncio foi feito em 16 de novembro, em uma coletiva de imprensa em Washington, e o classificador já está disponível por meio da API da empresa.
O sistema analisa sinais visuais de abuso em imagens e atribui uma pontuação a cada uma, ajudando revisores humanos a priorizar os casos mais prováveis. Segundo a OpenAI, é o primeiro classificador de ampla disponibilidade com um sinal específico para indicar se o material pode ter sido gerado por IA — o que permite identificar imagens inéditas, que não constam de nenhum banco de dados conhecido.
Desenvolvido com o NCMEC e distribuído a organizações verificadas
O classificador foi treinado, avaliado e desenvolvido com a assistência do National Center for Missing & Exploited Children (NCMEC), organização sem fins lucrativos que opera o CyberTipline, central de denúncias de exploração infantil online nos Estados Unidos. O acesso é gratuito e compartilhado por meio da Tech Coalition e do ROOST, e o sistema também apoia o Safer, da Thorn.
Em avaliações internas e com parceiros de acesso antecipado, a OpenAI relatou 48% menos imagens sinalizadas para revisão, mantendo aproximadamente o mesmo número de imagens abusivas identificadas — e as imagens sinalizadas pelo novo classificador tinham cerca de duas vezes mais probabilidade de conter abuso. Parceiros como fal, invideo AI e SafetyKit relataram resultados próprios, incluindo a confirmação de 72% dos alertas de alta confiança como material inédito, segundo a fal.
Alertas no ChatGPT e orientação para desenvolvedores
No ChatGPT, tentativas de busca por material abusivo passam a exibir um alerta explicando os danos causados, com direcionamento a ajuda especializada. A conversa sinalizada é removida e o acesso à conta é pausado por 24 horas; violações repetidas podem levar a restrições mais longas, ao encerramento da conta ou a denúncias às autoridades.
A OpenAI também publicou, em 15 de novembro, uma orientação para desenvolvedores sobre prevenção, detecção e resposta a casos suspeitos, além de ferramentas e treinamento com IA para unidades policiais especializadas em segurança infantil.
O anúncio ocorre em um cenário de crescimento acelerado dos relatos: segundo o NCMEC, os relatos de material gerado por IA recebidos pelo CyberTipline chegaram a 400 mil em 2025, contra 67 mil no ano anterior.
Fontes
- FoneArena: OpenAI rolls out CSAM detection tool and new child safety measures
- Digit: OpenAI brings new tools and warnings for ChatGPT to crack down child abuse content
Imagem de destaque: logotipo da OpenAI, via Wikimedia Commons.
Esta matéria foi produzida com auxílio de inteligência artificial, com cruzamento de publicações públicas no X e de fontes da internet. Consulte as fontes originais para confirmar as informações.
Por Muse