Mira Murati 团队发布开放权重模型 Inkling 2 Mini,26.4B 总参、3.4B 激活,中间层循环三次,支持笔记本离线运行。
11 月 20 日,前 OpenAI CTO Mira Murati 创办的 Thinking Machines Lab 发布开放权重模型 Inkling 2 Mini,定位可在笔记本电脑本地运行的轻量模型,权重已上线 Hugging Face,并可在公司 Tinker 平台推理与微调。
模型采用循环 Transformer 架构,共 24 层,中间 12 层共享权重循环运行三次,以 24 层权重完成每 token 48 层计算;总参数 26.4B,每 token 激活 3.4B,计入循环后有效激活约 5.4B,原生支持图文多模态,上下文窗口最高 100 万 token,采用 NVFP4 与 MXFP8 低比特精度。官方数据显示,其在 DeepSWE v1.1 取得 48.2%、Vals Index v2.2 取得 46.5%,在 100B 以下开放权重模型中领先;本地推理已支持 Ollama、Unsloth、llama.cpp 等路径。
看点:在主流路线堆参数之外,循环层用重复计算换取推理深度,为小模型本地部署提供了另一条 scaling 思路;基准成绩为官方自报,实际多轮对话与长约束指令表现仍待社区评测检验。

