Los chatbots de IA utilizados para ofrecer asesoramiento sobre salud mental en adolescentes pueden tener dificultades para reconocer señales de crisis de salud mental, como pensamientos suicidas indirectos o dialectos locales. Un estudio de la Universidad de Yale y la Universidad Americana de Beirut encontró que un modelo en inglés identificó casi el 89% de los casos de alto riesgo de suicidio, mientras que un modelo en árabe solo identificó el 67%. Las empresas que desarrollan chatbots deben demostrar que han evaluado de forma independiente sus sistemas antes de su lanzamiento, incluyendo cómo responden a señales de alerta indirectas y a diferentes dialectos.
Chatbots de IA y crisis de salud mental en adolescentes: un reto en materia de seguridad
1 min de lectura · Cómo se elabora esta pieza
Resumen redactado con IA a partir de la noticia original.
Fuente principal:
WIRED en Español · Inteligencia artificial →
WIRED en Español · Inteligencia artificial →
