¿Cuánto cuesta de verdad un cloud privado?
Desglose de CAPEX vs OPEX, licencias, soporte y el coste oculto del egress. La cifra del presupuesto rara vez es la cifra real: aquí está el cálculo completo.
Bare-metal con GPU vs hiperescalar para IA: rendimiento y coste
Entrenar e inferir modelos de IA se ha convertido en una de las partidas que más rápido crece, y más descontrolada va, en muchos presupuestos de IT. La nube de los hiperescalares hace que empezar sea trivial: levantas una instancia con GPU en minutos y pagas por hora. El problema llega en la factura del mes tres, cuando descubres que una carga que corre sin parar en alquiler cuesta varias veces lo que costaría en hardware propio.
Este artículo compara, sin marketing, las dos vías para correr IA con GPU: bare-metal con GPU dedicada frente a GPU en hiperescalar. Spoiler honesto: no hay ganador absoluto. El punto de cruce depende de cuánto uses la GPU.
La pregunta que lo decide todo: ¿uso sostenido o esporádico?
Toda la comparativa se reduce a un patrón de uso, igual que en el debate general de cloud privado vs público:
- Uso esporádico o variable (experimentos, picos puntuales, un fine-tuning ocasional, una demo): el hiperescalar gana. Pagas solo cuando usas y no inmovilizas capital.
- Uso sostenido (entrenamiento continuo, inferencia 24/7 en producción, un equipo que tiene la GPU caliente todo el día): el bare-metal dedicado gana, y por mucho.
La GPU en la nube está pensada para escalar a cero entre usos. Si tu GPU no baja nunca de cierta utilización, estás pagando la prima de la elasticidad sin usar la elasticidad.
El coste, con números honestos
No voy a dar precios de catálogo porque cambian, pero sí la mecánica que casi nadie hace bien. Una GPU de gama alta para IA en hiperescalar se alquila por hora. Multiplica esa hora por uso sostenido:
| Patrón de uso | Horas/mes | Quién gana claramente |
|---|---|---|
| Experimentos sueltos | < 100 h | Hiperescalar |
| Proyecto intensivo temporal | 100-300 h | Depende (calcula) |
| Inferencia / entrenamiento continuo | > 500 h (casi 24/7) | Bare-metal dedicado |
La regla práctica: cuando una GPU pasa de funcionar más de la mitad del mes, el alquiler empieza a salir más caro que tener hardware dedicado amortizado a 2-3 años. A utilización casi continua, el bare-metal puede costar una fracción del alquiler equivalente.
Los costes ocultos del hiperescalar
La hora de GPU es solo el titular. Súmale:
- Egress. Mover datasets grandes y modelos hacia fuera de la nube se paga por gigabyte. En IA, donde los datos pesan, esto duele. Lo desglosamos en cuánto cuesta de verdad un cloud privado.
- Almacenamiento de datasets a precio de nube, mes tras mes.
- Disponibilidad de GPU. En picos de demanda del mercado, las instancias de GPU top a veces ni están disponibles en tu región.
Los costes reales del bare-metal
Para ser justos, el dedicado tampoco es gratis:
- Inmoviliza capital (CAPEX) o tiene una cuota mensual fija (OPEX gestionado), la uses o no.
- Hay que operarlo: drivers, refrigeración, mantenimiento. En modelo gestionado esto se externaliza.
- Menos elástico: no escalas a 100 GPUs en cinco minutos.
El rendimiento: dedicado rinde más y más predecible
Más allá del coste, hay una diferencia técnica a favor del bare-metal que importa en IA:
- Sin vecinos ruidosos y sin capa de virtualización entre tu carga y la GPU: accedes al hardware directamente, sin overhead del hipervisor.
- Latencia y rendimiento predecibles, sin la variabilidad de un entorno compartido.
- Topología bajo tu control: interconexión entre GPUs (NVLink), almacenamiento local NVMe rápido junto al cómputo, red dimensionada para tus datos.
Para entrenamiento sostenido o inferencia de baja latencia, esa previsibilidad se traduce en throughput real, no solo en cifras de pico.
Cuándo elegir cada uno
Hiperescalar si:
- Estás empezando y aún no sabes cuánta GPU necesitarás.
- El uso es a ráfagas, con largos periodos a cero.
- Necesitas escalar a muchas GPUs por poco tiempo (un entrenamiento puntual masivo).
Bare-metal con GPU dedicada si:
- Tienes inferencia o entrenamiento sostenido, cercano a 24/7.
- Manejas datasets grandes y el egress te está sangrando.
- Necesitas rendimiento predecible y control de la topología.
- Tienes requisitos de soberanía del dato sobre datos de entrenamiento sensibles. Cruza con soberanía y CLOUD Act.
El híbrido, otra vez, suele ser la respuesta
Como en casi todo, lo más sensato no suele ser absoluto. Un patrón muy razonable: el cómputo base sostenido (inferencia en producción, entrenamiento recurrente) en servidores con GPU dedicada, y los picos puntuales o experimentos cortos en hiperescalar. Lo estable y caro de alquilar, en propio; lo elástico y esporádico, en la nube. Así no pagas la prima de elasticidad por lo que no es elástico.
Cómo decidir en tu caso
Alquilar GPU en la nube es excelente para empezar y para picos; es ruinoso para cargas que no paran. El bare-metal dedicado gana en coste a partir de un uso sostenido y casi siempre en rendimiento predecible. La única forma de decidir bien es hacer el cálculo con tu utilización real (horas/mes, tamaño de datasets, egress) y no con la intuición ni el titular de la calculadora del proveedor.
Si nos cuentas tu carga de IA real, montamos el TCO completo a tres años de las dos vías, con egress y operación incluidos, y te decimos honestamente dónde encaja. Empieza por nuestros servidores con GPU.