Strata Qwen3.8 roda em RTX 5070 de 12 GB a 94 tokens por segundo
文章分类: Inteligência Artificial
Strata Qwen3.8 coloca o modelo MoE de 125 bilhões de parâmetros da Alibaba em PCs gamer com 12 GB de VRAM. No teste do autor, uma RTX 5070 chega a 94 tokens por segundo na quantização mais leve.
阅读全文