Hugging Face explica en su blog cómo incorpora TorchTPU a sus bibliotecas. Este backend permite tratar las TPU de Google como un dispositivo de PyTorch y ejecutar modelos de Transformers y Diffusers sin adaptar el proyecto a un código específico de XLA para esos ejemplos. La publicación incluye instrucciones de instalación y fragmentos de código para inferencia y trabajo distribuido.
Según el equipo, Transformers puede cargar un modelo con device_map='tpu' y Diffusers puede trasladar una canalización al dispositivo. TorchTPU admite ejecución inmediata y compilación, y ofrece núcleos adaptados a las TPU. La primera compilación puede añadir espera; los resultados concretos dependen de modelos, versiones y hardware.
Esto puede reducir el trabajo de quienes ya usan PyTorch y quieren probar infraestructura TPU. Antes de trasladar un servicio conviene reproducir los ejemplos, medir memoria y latencia y comprobar las operaciones que necesita. La fotografía de servidores es ilustrativa; no representa una TPU utilizada por Hugging Face.