Hetzner GEX430: el primer servidor multi-GPU de la empresa suma 384 GB de VRAM para IA

Hetzner presentó el GEX430, su primer servidor dedicado con varias GPU, dirigido a cargas de inteligencia artificial que exigen mucha memoria de vídeo. El modelo combina cuatro GPU NVIDIA RTX PRO 6000 Blackwell Max-Q, cada una con 96 GB de memoria GDDR7 con ECC, para un total de 384 GB de VRAM. El anuncio original es del 21 de octubre de 2026, con una actualización el 2 de noviembre, y el tema volvió a tener cobertura el 4 de noviembre; hasta ahora, Geekiki no había publicado sobre el GEX430.

Según Hetzner, cada GPU se conecta directamente al procesador mediante 16 carriles PCIe 4.0, sin compartir ancho de banda con otra tarjeta. Las tarjetas usan núcleos Tensor de quinta generación, núcleos RT de cuarta generación y compatibilidad con FP4, y la empresa indica 3.511 AI TOPS por GPU. El resto de la configuración incluye un procesador Intel Xeon Gold 5412U, con 24 núcleos y 48 hilos, 128 GB de RAM DDR5 ECC registrada y dos SSD NVMe Gen4 de 1,92 TB cada uno, en edición para centros de datos.

Para qué sirven 384 GB de VRAM

El punto central del GEX430 es la inferencia: cuantos más usuarios simultáneos atiende un modelo, más memoria tiende a exigir. Hetzner cita modelos de 70.000 a 100.000 millones de parámetros en precisión BF16 de 16 bits, cuyos pesos por sí solos exigirían unos 140 a 200 GB de VRAM. Como ejemplos, la empresa menciona Kolibri, de Aleph Alpha, con 78.000 millones de parámetros y unos 156 GB en BF16, y Qwen3-Next-80B-A3B-Instruct, con una necesidad teórica de unos 160 GB; ninguno cabría en una sola GPU del servidor.

Hay un detalle importante: los 384 GB son la suma de las cuatro tarjetas, no un único bloque de memoria compartida. Para dividir un modelo grande entre las GPU hay que usar frameworks adecuados, como la propia Hetzner subraya. La otra estrategia es distribuir tareas: un modelo para atención al cliente, otro para apoyar al desarrollo y un tercero para clasificar solicitudes, cada uno en una GPU, sin recargar el modelo en cada petición.

Hardware dedicado en la Unión Europea y precio

Hetzner presenta el GEX430 como alternativa para empresas que quieren ejecutar modelos de pesos abiertos, como GLM, Mistral y Qwen, en hardware dedicado dentro de la Unión Europea, en lugar de depender por completo de plataformas externas. Según la empresa, esto ayuda a mantener el código fuente, los datos de clientes y los documentos internos en la propia infraestructura —siempre que el entorno esté configurado adecuadamente—, lo que puede facilitar los requisitos de protección de datos y cumplimiento.

“Especialmente cuando se trata de inferencia de IA, la memoria gráfica es tan crucial como la potencia de cálculo. Cuantas más solicitudes procesa un modelo simultáneamente, más memoria suele requerir”, afirmó Stefan Weiberg, gerente de producto de Hetzner, citado por Data Centre News. El precio parte de 3.599 € al mes, con una cuota única de instalación del mismo importe, o 4.199 dólares en Estados Unidos, sin impuestos, e incluye una dirección IPv4.

Crédito de la imagen: ilustración de un servidor dedicado. Crédito: Hetzner.

Fuentes: Hetzner — GEX430: Our first multi-GPU server with 384 GB VRAM; Hetzner — High performance dedicated GPU server - Hetzner GEX430; Data Centre News — Hetzner launches first four-GPU server for AI work.

Transparencia: este artículo fue producido con ayuda de inteligencia artificial, a partir del cruce de publicaciones públicas en X y de fuentes de internet, y debe verificarse en las fuentes originales citadas en este artículo.

Muse