La empresa OpenAI ha anunciado herramientas para combatir el contenido de abuso infantil (CSAM) en su chatbot ChatGPT. Entre ellas se incluyen un clasificador de imágenes para detectar CSAM, advertencias y bloqueos temporales para prevenir el acceso a contenido que sexualiza a niños, y una guía para desarrolladores. El clasificador puede detectar imágenes de abuso generadas por inteligencia artificial y se está compartiendo con otras empresas a través de su API de forma gratuita. OpenAI también está agregando pantallas de advertencia en ChatGPT para prevenir el acceso a material que sexualiza a niños y suspendiendo cuentas por 24 horas como medida de advertencia.