La compañía OpenAI ha lanzado una herramienta gratuita para detectar material de abuso sexual infantil creado con inteligencia artificial y ha introducido nuevas medidas de prevención en ChatGPT. La herramienta analiza señales visuales de las imágenes para identificar indicios de abuso y asigna una puntuación para ayudar a los equipos de moderación a priorizar las imágenes que requieren revisión. OpenAI también ha introducido advertencias y medidas de prevención para interrumpir comportamientos potencialmente dañinos en ChatGPT, incluyendo la eliminación automática de conversaciones con CSAM y la suspensión del acceso del usuario durante un día. La compañía ha subrayado su compromiso con la protección infantil en línea y ha ofrecido opciones de apoyo especializadas para ayudar a los usuarios a abandonar estos comportamientos.