Circuit Breaker Labs busca hacer que la inteligencia artificial sea más segura para los niños y adultos. La empresa, fundada por los hermanos Shirali y Arul Nigam, se inspiró en el caso de un joven de 14 años que se suicidó después de interactuar con un chatbot. Los agentes de inteligencia artificial de la empresa simulan a personas de diferentes edades, idiomas y culturas para probar modelos y detectar interacciones peligrosas. La startup trabaja con expertos humanos para crear simulaciones realistas y realizar pruebas adversarias para descubrir vulnerabilidades en los modelos. El objetivo es hacer que los modelos puedan responder adecuadamente a interacciones riesgosas y prevenir daños psicológicos.