OpenAI anunció un clasificador de imágenes que busca ayudar a organizaciones de protección infantil y autoridades a identificar material de abuso sexual infantil, incluido aquel generado con inteligencia artificial. La empresa también ofrecerá la herramienta sin costo a organizaciones previamente evaluadas y publicará orientaciones para desarrolladores. El anuncio ocurre mientras el volumen de reportes sobre imágenes sintéticas presiona los sistemas de denuncia que reciben y clasifican alertas.
La escala del problema se refleja en los datos de NCMEC, el Centro Nacional para Niños Desaparecidos y Explotados de Estados Unidos. Su CyberTipline recibió 400 mil reportes relacionados con contenido generado por IA en 2025, frente a 67 mil durante 2024. The Verge reportó que investigadores han advertido que ese crecimiento podría volver inmanejable la carga de revisión. El centro recibe avisos y los clasifica para que puedan llegar a las autoridades competentes cuando corresponda.

Un clasificador para apoyar la revisión humana
Según OpenAI, el sistema analiza señales visuales y entrega puntuaciones para ayudar a los equipos a priorizar qué imágenes requieren atención. La compañía afirma que, en sus pruebas, el clasificador redujo en 48% las alertas que resultaban ser falsos positivos, mientras que las imágenes identificadas tenían el doble de probabilidad de contener material abusivo. La herramienta está diseñada para detectar material nuevo, incluido el producido con diferentes generadores y aplicaciones de edición.
La empresa señala que trabajó con NCMEC en el entrenamiento, la evaluación y el diseño para el uso real. El clasificador no sustituye la revisión especializada: funciona como apoyo para ordenar el trabajo de investigadores y equipos de confianza y seguridad. OpenAI indicó que el acceso gratuito se ofrecerá a organizaciones verificadas mediante su API y que continuará colaborando con entidades de protección infantil y autoridades.
Avisos y pausas en ChatGPT
El paquete anunciado también incluye cambios para interrumpir intentos de generar contenido sexual que involucre a menores. Si el sistema detecta una solicitud de ese tipo, ChatGPT mostrará una advertencia, retirará la conversación señalada y pausará el acceso durante 24 horas. OpenAI dice que el aviso explicará el daño y ofrecerá recursos de ayuda. Las infracciones repetidas podrían derivar en restricciones más largas, cierre de la cuenta o reportes a las autoridades. La compañía afirma que reporta a NCMEC todos los casos de material de abuso sexual infantil que detecta en sus servicios.
La empresa también publicó lineamientos prácticos para desarrolladores sobre reglas de uso, vías para recibir reportes, detección de contenido, revisión y comunicación de posibles abusos. OpenAI desarrolló esas recomendaciones con aportes de NCMEC, Thorn, Internet Watch Foundation y Tech Coalition. Además, anunció apoyo y formación para investigadores de las fuerzas del orden sobre el uso de IA en investigaciones de protección infantil.
El anuncio llega en un contexto de presión regulatoria y de debate sobre la responsabilidad de las plataformas. The Verge señala que legisladores y organizaciones discuten medidas para exigir acciones más rápidas ante material abusivo y deepfakes sexuales. El fiscal general de Carolina del Norte, Jeff Jackson, describió como “explosivo” el aumento de reportes sintéticos y dijo que la cooperación preventiva con empresas tecnológicas sigue siendo un experimento. La eficacia de las nuevas herramientas dependerá de su desempeño y de que se integren con revisión humana, investigación y procesos de reporte.
Lee más cobertura de OpenAI, inteligencia artificial, privacidad, seguridad digital y protección infantil en línea.
Para más noticias de tecnología, cultura geek, gadgets y entretenimiento, visita: GeekAndLife.com.mx
Descubre más contenido en nuestras redes: Instagram | YouTube | TikTok

Fuente: The Verge


