GLM-5.3 roda em duas estações DGX: NVIDIA serve modelo de 753 bilhões de parâmetros com vLLM
Categories: Tecnologia
NVIDIA divide o GLM-5.3, modelo de 753 bilhões de parâmetros da Z.ai, entre duas DGX Stations com GB300 e atinge 607,8 tokens por segundo com vLLM.