Infraestructura

¿Qué es el GPU passthrough?

El GPU passthrough es la técnica que asigna una tarjeta gráfica física directamente a una máquina virtual, de modo que el sistema invitado la usa como si estuviera instalada en un servidor propio, sin la penalización de una GPU emulada.

Para entrenar modelos, hacer inferencia o ejecutar cargas de cálculo, una GPU emulada no sirve: hace falta acceso directo al hardware. El passthrough lo consigue apoyándose en la IOMMU del procesador (VT-d en Intel, AMD-Vi en AMD) y en el driver VFIO, que retira la tarjeta del anfitrión y se la entrega en exclusiva a una máquina virtual.

Tiene condiciones: la placa debe agrupar los dispositivos en grupos IOMMU limpios, el anfitrión no puede estar usando la tarjeta y la VM con la GPU asignada pierde parte de la flexibilidad del clúster, porque no se puede migrar en vivo a un nodo que no tenga esa misma tarjeta libre. Es un intercambio consciente: máximo rendimiento a cambio de menos movilidad.

La alternativa es repartir una GPU entre varias máquinas mediante virtualización de GPU (vGPU o MIG, según fabricante y modelo), que exige licencias y hardware compatible. Y cuando la carga es continua y exprime la tarjeta al máximo, muchas veces la respuesta correcta no es virtualizar, sino un servidor bare-metal con las GPU dedicadas.

Preguntas frecuentes

¿Puedo compartir una GPU entre varias máquinas virtuales?

Con passthrough no: la tarjeta se asigna en exclusiva a una VM. Para repartirla hay que usar la virtualización de GPU del fabricante (vGPU de NVIDIA o particionado MIG en las tarjetas que lo soportan), que requiere modelos concretos y, en el caso de vGPU, licencias específicas.

¿GPU passthrough o bare-metal con GPU?

El passthrough encaja cuando quieres aprovechar el clúster de virtualización y aislar entornos con varias tarjetas en un mismo servidor. El bare-metal con GPU es preferible en cargas de entrenamiento sostenido, con varias tarjetas interconectadas y necesidad de exprimir cada punto de rendimiento sin capas intermedias.

Asesoría independiente · un solo interlocutor

¿Lo aplicamos a tu caso?

Cuéntanos tu proyecto y un especialista te propone la arquitectura, los plazos y el presupuesto. Sin coste y sin compromiso.

Respuesta en 24-48h Sin compromiso

Respuesta en 24–48 h laborables · Sin compromiso