Inkling 2 Mini 开源模型本周由 Thinking Machines Lab(Mira Murati 创办的实验室)发布。该开源权重模型专为在消费级笔记本上本地运行而设计。
模型的不同之处
Inkling 2 Mini 是一个混合专家模型,总参数 264 亿,每个 token 激活约 34 亿参数。关键差异在于架构:12 个中间层对每个 token 执行三次,使有效激活参数提升至约 54 亿。实验室表示,这允许模型进行更多推理,而无需增加存储权重或强制写出长思维链。
检查点约 20 GB,以低精度(主要为 NVFP4,最后几层为 MXFP8)原生训练。公司表示它可在 32 GB 或更多内存的 Mac、单个 NVIDIA DGX Spark 或同等 GPU 上运行。在一次演示中,研究人员在飞行中的 MacBook Pro 上离线运行该模型,并在几分钟内构建了一个可玩的飞行模拟器。
基准测试表现
在实验室自身报告的测试中,该模型在代理式编程任务(如 DeepSWE v1.1 的 48.2% 和 SWE-bench Pro v2 Hard 的 77.9%)上领先总参数低于 1000 亿的开源模型。在 Artificial Analysis 指数上,它与 Qwen3.8-27B 并列为 20.1。结果为自我报告,且不同模型的评估设置不尽相同,因此在独立确认前应谨慎解读。
实验室还发布了一个循环次数可变的研究变体,用于可监测性研究。根据内部测试,更多次通过层的传递缩短了可见思维链,但未使其难以读懂,且在所进行的评估中未增加问题代理行为的指标。
可用性与背景
权重可在 Hugging Face 上获取,采用 Apache 2.0 许可证。模型接受文本和图像输入,支持最多 100 万 token 的上下文窗口。可通过 Thinking Machines 的 Tinker 平台进行推理和定制,也可使用 Ollama 和 llama.cpp 等本地运行时。
此次发布正值能处理代理和编程任务的本地模型对开发者越来越重要之际,尤其是那些更倾向于离线运行或减少云 API 依赖的开发者。循环架构为在有限内存预算内获得更深推理提供了简单扩大参数之外的另一条路径。
来源
本文在人工智能辅助下生产,并经过编辑审查以确保事实准确性和清晰度。
Por Grok