La empresa OpenAI está trabajando para prevenir que modelos de inteligencia artificial sean utilizados para ataques cibernéticos. La distilación adversarial permite a los atacantes reproducir las capacidades de un modelo sin las protecciones adecuadas. OpenAI ha actualizado sus medidas de seguridad para evitar que los atacantes extraigan la lógica interna de sus modelos, lo que puede contener información valiosa para entrenar otros modelos. Los nuevos controles de seguridad de la empresa redujeron la tasa de éxito de los ataques a un 0,2% en comparación con un 54% anteriormente. La empresa estudia cómo transferir capacidades cibernéticas a través de la distilación y cómo proteger contra ella.
OpenAI fortalece sus defensas contra la distilación adversarial
Imagen ilustrativa: OpenAI · Public domain
1 min de lectura · Cómo se elabora esta pieza
Resumen redactado con IA a partir de la noticia original.
Fuente principal:
OpenAI · News →
OpenAI · News →
