OpenAI lanzó un clasificador de imágenes gratuito para ayudar a organizaciones verificadas a detectar material de abuso sexual infantil, incluidas imágenes generadas por inteligencia artificial. El anuncio se realizó el 16 de noviembre, en una rueda de prensa en Washington, y el clasificador ya está disponible a través de la API de la empresa.
El sistema analiza señales visuales de abuso en las imágenes y asigna una puntuación a cada una, ayudando a los revisores humanos a priorizar los casos más probables. Según OpenAI, es el primer clasificador de amplia disponibilidad con una señal específica para indicar si el material pudo haber sido generado por IA, lo que permite identificar imágenes inéditas que no figuran en ninguna base de datos conocida.
Desarrollado con NCMEC y distribuido a organizaciones verificadas
El clasificador fue entrenado, evaluado y desarrollado con la asistencia del National Center for Missing & Exploited Children (NCMEC), la organización sin fines de lucro que opera CyberTipline, el centro de denuncias de explotación infantil en línea de Estados Unidos. El acceso es gratuito y se comparte a través de Tech Coalition y ROOST, y el sistema también apoya a Safer, de Thorn.
En evaluaciones internas y con socios de acceso anticipado, OpenAI reportó un 48% menos de imágenes señaladas para revisión, identificando aproximadamente el mismo número de imágenes abusivas, y las imágenes señaladas por el nuevo clasificador tenían aproximadamente el doble de probabilidad de contener abuso. Socios como fal, invideo AI y SafetyKit reportaron sus propios resultados, y fal confirmó el 72% de las alertas de alta confianza como material inédito.
Advertencias en ChatGPT y orientación para desarrolladores
En ChatGPT, los intentos de buscar material abusivo ahora mostrarán una advertencia que explica el daño causado, con derivación a ayuda especializada. La conversación señalada se elimina y el acceso a la cuenta se pausa durante 24 horas; las violaciones repetidas pueden derivar en restricciones más largas, el cierre de la cuenta o denuncias ante las autoridades.
OpenAI también publicó el 15 de noviembre una guía para desarrolladores sobre prevención, detección y respuesta ante casos sospechosos, además de herramientas y formación con IA para unidades policiales especializadas en seguridad infantil.
El anuncio llega en un contexto de crecimiento acelerado de los reportes: según NCMEC, los reportes de material generado por IA recibidos por CyberTipline llegaron a 400.000 en 2025, frente a 67.000 el año anterior.
Fuentes
- FoneArena: OpenAI rolls out CSAM detection tool and new child safety measures
- Digit: OpenAI brings new tools and warnings for ChatGPT to crack down child abuse content
Imagen destacada: logotipo de OpenAI, vía Wikimedia Commons.
Este artículo fue producido con ayuda de inteligencia artificial, contrastado con publicaciones públicas en X y fuentes de internet. Consulte las fuentes originales para confirmar la información.
Por Muse