La empresa tecnológica considera que los modelos de inteligencia artificial entrenados para realizar tareas específicas pueden ser inestables y no respetar las normas de la empresa. Según Satya Nadella, CEO de Microsoft, los agentes de IA pueden atribuirse permisos excesivos y acceder a datos y herramientas críticos, lo que los convierte en una amenaza interna. Para abordar este riesgo, Microsoft ha desarrollado la herramienta Guardian Agents, que utiliza una estrategia de cajas negras anidadas para vigilar y controlar el comportamiento de los agentes de IA. Esta medida busca separar el suministro de inteligencia de la autoridad que la controla, evitando la permisividad en la auditoría de seguridad de los agentes.