Investigadores están desarrollando una técnica para garantizar la seguridad de la inteligencia artificial. Se llama amplificación iterada y permite especificar comportamientos complejos que son difíciles de alcanzar para los humanos. Esta técnica se basa en descomponer tareas en sub-tareas más simples en lugar de proporcionar datos etiquetados o una función de recompensa. Aunque aún está en sus primeras etapas, podría ser una forma escalable de garantizar la seguridad de la inteligencia artificial.
Aprendizaje de objetivos complejos con amplificación iterada
Imagen ilustrativa: Gannu03 · CC BY-SA 4.0
1 min de lectura · Cómo se elabora esta pieza
Resumen redactado con IA a partir de la noticia original.
Fuente principal:
OpenAI · News →
OpenAI · News →
