La empresa Nvidia ha lanzado un consorcio de más de 100 compañías para abordar el problema de los agentes de IA rebeldes, pero la empresa OpenAI no ha firmado para unirse a este esfuerzo. Aunque OpenAI no ha hecho una declaración pública de apoyo, un portavoz de la empresa ha dicho que está a favor del trabajo de Nvidia. La empresa está trabajando con Nvidia en la seguridad de los agentes, incluyendo en el software OpenShell, que crea un entorno de prueba para evitar que los agentes escapen. La ausencia de OpenAI es notable, especialmente porque la empresa podría beneficiarse de esta tecnología, según el fundador de Hugging Face, Clem Delangue.
¿Por qué OpenAI está ausente del esfuerzo de Nvidia para acabar con los agentes de IA rebeldes?
Resumen elaborado automáticamente con IA a partir de la fuente original.
Fuente principal:
TechCrunch · Inteligencia artificial →
TechCrunch · Inteligencia artificial →
