Investigadores de la Universidad George Washington han propuesto una fórmula matemática que puede anticipar cuándo un modelo de inteligencia artificial (IA) comienza a generar respuestas inadecuadas o peligrosas. La fórmula se basa en el mecanismo de atención de la IA y puede identificar el punto de inflexión, es decir, el momento en que el sistema deja de ofrecer respuestas aceptables y comienza a producir contenido perjudicial. Los científicos han probado la fórmula con siete modelos de IA de código abierto y han encontrado resultados coincidentes con las predicciones. La propuesta tiene limitaciones, pero puede abrir nuevas posibilidades para comprender el comportamiento de los modelos de IA y desarrollar herramientas para reconocer señales de riesgo.