觉
AI觉醒星球
Awakening is here
AI小生意项目库 · 阅读档案
2026-11-21 1 浏览 免费阅读

新开源模型 Inkling 2 Mini 通过循环思考用更少文字解决问题,仍可在笔记本电脑上运行

Thinking Machines 发布开源循环式 Transformer 模型 Inkling 2 Mini。它总参数 26.4B、每 token 激活 5.4B,通过 24 层中 12 层循环三次减少输出 token,支持文本图像和 100 万 token 上下文,采用 Apache 2.0 许可。原文称其在 100B 以下开源模型的智能体编程测试中领先,并可在 32GB Mac 与 Nvidia DGX Spark 本地运行。

AI小生意项目库 约 9 分钟读完 免费阅读 原文 2026-11-21 18:33:02

原贴

查看原文
作者:Matthias Bastian 来源站点:the-decoder.com 原贴时间:

原文

Thinking Machines has released Inkling 2 Mini, a so-called looped transformer. A looped transformer runs certain layers multiple times for each token. Inkling 2 Mini runs 12 of its 24 layers three times in a row. That lets the model reason internally for longer without generating more text, finding the right answer with fewer tokens, according to Thinking Machines . The open mixture-of-experts model has 26.4 billion parameters, with 5.4 billion active per token because of the loops, the company says. It processes text and images, has a 1-million-token context window, and is licensed under Apache 2.0. Inkling 2 Mini leads all open models under 100 billion parameters on agentic coding tests, scoring 48.2 percent on DeepSWE v1.1 and 46.5 percent on the Vals Index v2.2. Artificial Analysis gives it 20 points on its Intelligence Index, tying it with Qwen3.8 27B at roughly six times lower cost and four times the speed. Inkling 2 Mini runs locally on Macs with at least 32 GB of memory and on Nvidia's DGX Spark. You can download the weights and a research version with variable loops from Hugging Face . It is also available to try in the Tinker Playground . Ad Ad

中文翻译

Thinking Machines 发布了 Inkling 2 Mini,一种所谓的循环式 Transformer。

循环式 Transformer 会为每个 token 多次运行某些层。

Inkling 2 Mini 将其 24 层中的 12 层连续运行三次。

据 Thinking Machines 称,这使模型能在不生成更多文本的情况下进行更长时间的内部推理,以更少的 token 找到正确答案。

该公司称,这个开放混合专家模型有 264 亿参数,由于循环,每个 token 有 54 亿激活参数。

它处理文本和图像,具有 100 万 token 的上下文窗口,并以 Apache 2.0 许可授权。

Inkling 2 Mini 在智能体编程测试中领先所有 1000 亿参数以下的开源模型,在 DeepSWE v1.1 上得分 48.2%,在 Vals Index v2.2 上得分 46.5%。

Artificial Analysis 在其 Intelligence Index 上给它 20 分,与 Qwen3.8 27B 并列,成本约低六倍、速度快四倍。

Inkling 2 Mini 可在内存至少 32 GB 的 Mac 上和 Nvidia 的 DGX Spark 上本地运行。

你可以从 Hugging Face 下载权重和带有可变循环的研究版本。

它也可以在 Tinker Playground 中试用。

核心信息

Thinking Machines 发布开源循环式 Transformer 模型 Inkling 2 Mini。它总参数 26.4B、每 token 激活 5.4B,通过 24 层中 12 层循环三次减少输出 token,支持文本图像和 100 万 token 上下文,采用 Apache 2.0 许可。原文称其在 100B 以下开源模型的智能体编程测试中领先,并可在 32GB Mac 与 Nvidia DGX Spark 本地运行。

  • Thinking Machines 发布开源循环式 Transformer 模型 Inkling 2 Mini。它总参数 26.4B、每 token 激活 5.4B,通过 24 层中 12 层循环三次减少输出 token,支持文本图像和 100 万 token 上下文,采用 Apache 2.0 许可。原文称其在 100B 以下开源模型的智能体编程测试中领先,并可在 32GB Mac 与 Nvidia DGX Spark 本地运行。
  • 原贴提到:Thinking Machines has released Inkling 2 Mini, a so-called looped transf
  • 来源:the-decoder.com

详细解读

这是什么信号:这不是一次普通的开源模型发布,而是把“循环式 Transformer”推到了可下载、可本地运行的层面。Inkling 2 Mini 的核心卖点不是单纯堆参数,而是让 24 层中的 12 层对一个 token 连续跑三次,用更多内部计算换取更少的输出 token。对关注推理成本的人来说,这代表一条不同于“更大模型”的效率路线。

为什么重要:当前大模型竞争常围绕参数规模、上下文长度和基准分数展开,但企业真正付费的是单位任务成本、延迟和可部署性。原文给出的组合很关键:26.4B 总参数、5.4B 激活参数、100 万 token 上下文、文本与图像输入、Apache 2.0,以及 100B 以下开源模型智能体编程测试领先。它说明开源模型正在把“少 token 推理”和“本地可跑”做成可评估的产品信号。

对谁有价值:独立开发者和小团队可用它验证本地智能体、代码助手和长文档处理;企业架构师可把它纳入私有化部署候选,尤其是对数据外流敏感的场景;模型评测者应关注循环层带来的“计算换 token”效应;内容与投资观察者则应把它视为开源模型性价比竞争的新样本。原文提到可在至少 32 GB 内存的 Mac 和 Nvidia DGX Spark 上本地运行,这对端侧和边缘部署有直接参考价值。

可以怎么行动:第一,下载权重后不要只看榜单,选自己的 20 到 50 个真实任务,记录准确率、输出 token 数、首 token 延迟和总耗时,和现有开源或闭源基线对比。第二,重点测试智能体编程、长上下文检索和多模态输入,因为这些是原文强调的能力。第三,试用带可变循环的研究版本,观察循环次数对质量和成本的影响。第四,企业侧同步核查 Apache 2.0 许可、模型卡、依赖项和本地硬件内存占用,再决定是否进入试点。

风险或限制:原文的领先结论来自特定基准,DeepSWE v1.1、Vals Index v2.2 和 Artificial Analysis 的 20 分不能直接等同真实业务效果;与 Qwen3.8 27B 的“约六倍更低成本、四倍速度”也是该评测语境下的对比,需在自己的硬件和任务上复测。循环层减少输出 token,但可能增加单 token 计算,总延迟未必线性下降。32 GB Mac 只是运行门槛,不等于生产级吞吐。1M 上下文和多模态能力也需要验证有效上下文和幻觉表现。开源许可有利,但仍需检查训练数据、依赖和合规边界。

信息差价值

这条内容的真正价值,不只是“有人发布了一个新功能”,而是它揭示了 the-decoder.com 背后的产品方向、工作流变化或竞争信号。对 OPC 来说,这种信息可以转化成持续追踪的栏目选题。

如果把《新开源模型 Inkling 2 Mini 通过循环思考用更少文字解决问题,仍可在笔记本电脑上运行》放到你的内容系统里,它最大的价值在于帮助读者更快看懂“为什么值得关注”,而不是只看到一条碎片化动态。

参考来源

AI SUMMARY

这篇文章回答了什么

新开源模型 Inkling 2 Mini 通过循环思考用更少文字解决问题,仍可在笔记本电脑上运行主要讲什么?

Thinking Machines 发布开源循环式 Transformer 模型 Inkling 2 Mini。它总参数 26.4B、每 token 激活 5.4B,通过 24 层中 12 层循环三次减少输出 token,支持文本图像和 100 万 token 上下文,采用 Apache 2.0 许可。原文称其在 100B 以下开源模型的智能体编程测试中领…

这篇文章最值得关注的要点是什么?

Thinking Machines 发布开源循环式 Transformer 模型 Inkling 2 Mini。它总参数 26.4B、每 token 激活 5.4B,通过 24 层中 12 层循环三次减少输出 token,支持文本图像和…;原贴提到:Thinking Machines has released Inkling 2 Mini, a so-called looped transf;来源:the-decoder.com

这篇文章和哪些AI专题相关?

它适合放在AI副业、Agent工作流、AI工具专题里阅读。 关联原因:这篇内容命中「项目、小生意、变现」等主题信号。;这篇内容命中「智能体」等主题信号。;这篇内容命中「模型」等主题信号。

阅读这篇文章建议先理解哪些关键词?

建议先理解AI工具、工具、自动化、模型、Cursor这些关键词,再结合正文判断工具、机会或风险是否值得进入自己的工作流。

上一篇 Transformers v5.24.0 发布:新增多款模型与架构支持 下一篇 谷歌 Duplex 如何演进为在 Gemini 中替你致电商家
北竹游乐场 免费玩小游戏 免费玩