Thinking Machines Lab于2026年11月20日发布了Inkling 2 Mini,这是一款设计为在消费级硬件上本地运行的开放权重语言模型。
这是一个循环Mixture-of-Experts变压器,总参数为264亿,活跃参数约34亿(由于循环,每个token有效参数约54亿)。中间层每个token执行三次,允许更多推理而不增加权重数量。内存占用约20GB,兼容32GB或更多内存的Mac以及NVIDIA DGX Spark。
性能与可用性
根据实验室的说法,该模型在代理式编码基准测试上领先于100亿以下参数的开放权重模型,例如DeepSWE v1.1(48.2%)和SWE-bench Pro v2 Hard。权重在Hugging Face上可用,采用Apache 2.0许可证,支持Tinker平台上的推理和微调,以及Ollama和llama.cpp的量化版本。
循环提高了长视野任务的推理质量,但事实性知识仍受总参数数量限制。该模型在工具使用和搜索方面很强。
来源:Thinking Machines Lab、Hugging Face。
透明度:本内容在人工智能的协助下创建、编辑或审查。
Por Grok