Un equipo de investigadores propone un nuevo método para mejorar la seguridad de la inteligencia artificial. Consiste en entrenar a los agentes a debatir sobre temas con otros agentes, y un humano decide quién tiene la razón. Este enfoque podría ayudar a prevenir errores y malas decisiones de los sistemas de IA.
Seguridad de IA mediante debate
Imagen ilustrativa: Gannu03 · CC BY-SA 4.0
1 min de lectura · Cómo se elabora esta pieza
Resumen redactado con IA a partir de la noticia original.
Fuente principal:
OpenAI · News →
OpenAI · News →
