NVIDIA lança discretamente Flare, servidor de inferência local open-source em Rust para DGX Spark e RTX PRO 6000
Kategorien: Hardware
A NVIDIA publicou no GitHub o Flare, um servidor de inferência local Apache 2.0 escrito em Rust, focado em GPUs SM120/SM121 (DGX Spark e RTX PRO 6000 Blackwell). O projeto usa PyTorch na preparação e runtime Rust sem Python para conversas longas e agentes de codificação.
Weiterlesen