新开源模型 Inkling 2 Mini 通过循环思考用更少文字解决问题,仍可在笔记本电脑上运行
Thinking Machines 发布开源循环式 Transformer 模型 Inkling 2 Mini。它总参数 26.4B、每 token 激活 5.4B,通过 24 层中 12 层循环三次减少输出 token,支持文本图像和 100 万 token 上下文,采用 Apache 2.0 许可。原文称其在 100B 以下开源模型的智能体编程测试中领先,并可在 32GB Mac 与 Nvidia DGX Spark 本地运行。
原贴
查看原文原文
中文翻译
Thinking Machines 发布了 Inkling 2 Mini,一种所谓的循环式 Transformer。
循环式 Transformer 会为每个 token 多次运行某些层。
Inkling 2 Mini 将其 24 层中的 12 层连续运行三次。
据 Thinking Machines 称,这使模型能在不生成更多文本的情况下进行更长时间的内部推理,以更少的 token 找到正确答案。
该公司称,这个开放混合专家模型有 264 亿参数,由于循环,每个 token 有 54 亿激活参数。
它处理文本和图像,具有 100 万 token 的上下文窗口,并以 Apache 2.0 许可授权。
Inkling 2 Mini 在智能体编程测试中领先所有 1000 亿参数以下的开源模型,在 DeepSWE v1.1 上得分 48.2%,在 Vals Index v2.2 上得分 46.5%。
Artificial Analysis 在其 Intelligence Index 上给它 20 分,与 Qwen3.8 27B 并列,成本约低六倍、速度快四倍。
Inkling 2 Mini 可在内存至少 32 GB 的 Mac 上和 Nvidia 的 DGX Spark 上本地运行。
你可以从 Hugging Face 下载权重和带有可变循环的研究版本。
它也可以在 Tinker Playground 中试用。
核心信息
Thinking Machines 发布开源循环式 Transformer 模型 Inkling 2 Mini。它总参数 26.4B、每 token 激活 5.4B,通过 24 层中 12 层循环三次减少输出 token,支持文本图像和 100 万 token 上下文,采用 Apache 2.0 许可。原文称其在 100B 以下开源模型的智能体编程测试中领先,并可在 32GB Mac 与 Nvidia DGX Spark 本地运行。
- Thinking Machines 发布开源循环式 Transformer 模型 Inkling 2 Mini。它总参数 26.4B、每 token 激活 5.4B,通过 24 层中 12 层循环三次减少输出 token,支持文本图像和 100 万 token 上下文,采用 Apache 2.0 许可。原文称其在 100B 以下开源模型的智能体编程测试中领先,并可在 32GB Mac 与 Nvidia DGX Spark 本地运行。
- 原贴提到:Thinking Machines has released Inkling 2 Mini, a so-called looped transf
- 来源:the-decoder.com
详细解读
这是什么信号:这不是一次普通的开源模型发布,而是把“循环式 Transformer”推到了可下载、可本地运行的层面。Inkling 2 Mini 的核心卖点不是单纯堆参数,而是让 24 层中的 12 层对一个 token 连续跑三次,用更多内部计算换取更少的输出 token。对关注推理成本的人来说,这代表一条不同于“更大模型”的效率路线。
为什么重要:当前大模型竞争常围绕参数规模、上下文长度和基准分数展开,但企业真正付费的是单位任务成本、延迟和可部署性。原文给出的组合很关键:26.4B 总参数、5.4B 激活参数、100 万 token 上下文、文本与图像输入、Apache 2.0,以及 100B 以下开源模型智能体编程测试领先。它说明开源模型正在把“少 token 推理”和“本地可跑”做成可评估的产品信号。
对谁有价值:独立开发者和小团队可用它验证本地智能体、代码助手和长文档处理;企业架构师可把它纳入私有化部署候选,尤其是对数据外流敏感的场景;模型评测者应关注循环层带来的“计算换 token”效应;内容与投资观察者则应把它视为开源模型性价比竞争的新样本。原文提到可在至少 32 GB 内存的 Mac 和 Nvidia DGX Spark 上本地运行,这对端侧和边缘部署有直接参考价值。
可以怎么行动:第一,下载权重后不要只看榜单,选自己的 20 到 50 个真实任务,记录准确率、输出 token 数、首 token 延迟和总耗时,和现有开源或闭源基线对比。第二,重点测试智能体编程、长上下文检索和多模态输入,因为这些是原文强调的能力。第三,试用带可变循环的研究版本,观察循环次数对质量和成本的影响。第四,企业侧同步核查 Apache 2.0 许可、模型卡、依赖项和本地硬件内存占用,再决定是否进入试点。
风险或限制:原文的领先结论来自特定基准,DeepSWE v1.1、Vals Index v2.2 和 Artificial Analysis 的 20 分不能直接等同真实业务效果;与 Qwen3.8 27B 的“约六倍更低成本、四倍速度”也是该评测语境下的对比,需在自己的硬件和任务上复测。循环层减少输出 token,但可能增加单 token 计算,总延迟未必线性下降。32 GB Mac 只是运行门槛,不等于生产级吞吐。1M 上下文和多模态能力也需要验证有效上下文和幻觉表现。开源许可有利,但仍需检查训练数据、依赖和合规边界。
信息差价值
这条内容的真正价值,不只是“有人发布了一个新功能”,而是它揭示了 the-decoder.com 背后的产品方向、工作流变化或竞争信号。对 OPC 来说,这种信息可以转化成持续追踪的栏目选题。
如果把《新开源模型 Inkling 2 Mini 通过循环思考用更少文字解决问题,仍可在笔记本电脑上运行》放到你的内容系统里,它最大的价值在于帮助读者更快看懂“为什么值得关注”,而不是只看到一条碎片化动态。
参考来源
TOPIC HUBS
延伸专题
AI SUMMARY
这篇文章回答了什么
新开源模型 Inkling 2 Mini 通过循环思考用更少文字解决问题,仍可在笔记本电脑上运行主要讲什么?
Thinking Machines 发布开源循环式 Transformer 模型 Inkling 2 Mini。它总参数 26.4B、每 token 激活 5.4B,通过 24 层中 12 层循环三次减少输出 token,支持文本图像和 100 万 token 上下文,采用 Apache 2.0 许可。原文称其在 100B 以下开源模型的智能体编程测试中领…
这篇文章最值得关注的要点是什么?
Thinking Machines 发布开源循环式 Transformer 模型 Inkling 2 Mini。它总参数 26.4B、每 token 激活 5.4B,通过 24 层中 12 层循环三次减少输出 token,支持文本图像和…;原贴提到:Thinking Machines has released Inkling 2 Mini, a so-called looped transf;来源:the-decoder.com
这篇文章和哪些AI专题相关?
它适合放在AI副业、Agent工作流、AI工具专题里阅读。 关联原因:这篇内容命中「项目、小生意、变现」等主题信号。;这篇内容命中「智能体」等主题信号。;这篇内容命中「模型」等主题信号。
阅读这篇文章建议先理解哪些关键词?
建议先理解AI工具、工具、自动化、模型、Cursor这些关键词,再结合正文判断工具、机会或风险是否值得进入自己的工作流。