Investigadores han desarrollado un modelo de predicción que puede predecir con precisión el tiempo de ejecución de tareas de fine-tuning en clusters de GPU compartidos. El modelo, basado en CatBoost, puede predecir el tiempo de ejecución con un error medio de solo 1,71 horas, mejorando significativamente la precisión de las estimaciones tradicionales basadas en FLOPs. El modelo toma en cuenta factores como la frecuencia de evaluación, la política de puntos de control y la carga de GPU, entre otros, para predecir el tiempo de ejecución de las tareas.
Modelos de predicción mejoran la planificación de GPU en clusters compartidos

Imagen ilustrativa: NODO · Identidad del sitio
1 min de lectura · Cómo se elabora esta pieza
Resumen redactado con IA a partir de la noticia original.
Fuente principal:
Hugging Face Blog →
Hugging Face Blog →