Thinking Machines Inkling：Mira Murati 首個開放權重模型深度解析

Thinking Machines Lab 是由前 OpenAI 技術長 Mira Murati 創立的初創公司，近日發布了其首個自研模型：Inkling——一個開放權重的多模態混合專家（Mixture-of-Experts）系統。令人驚訝的不是其規模，而是其背後的策略。Inkling 並非為了贏得基準測試而生，而是為了讓各機構能夠下載、微調並按需重塑。本文涵蓋 Inkling 的規格、基準測試、「可調控思考強度」概念，以及開放權重基礎模型對 AI 智能體開發的實際意義。

什麼是 Inkling？

Inkling 是 Thinking Machines Lab 的首個公開模型，於 2026 年 7 月 15 日發布——這是該實驗室在約 18 個月的私有基礎設施建設後，首次向外界展示的重要成果（TechCrunch）。

以下是來自實驗室官方發布文章的核心數據：

• 總參數量 975B，活躍參數 41B — 採用混合專家（MoE）Transformer 架構，每個 token 僅激活一小部分權重，使超大型模型在運行時更快速、更經濟。
• 100 萬 token 上下文視窗。
• 在 45 兆個 token 上預訓練，涵蓋文字、圖像、音頻及視頻，可原生跨四種模態進行推理。目前輸出形式為文字：包括程式碼、結構化數據及格式化內容。
• 開放權重 — 完整權重已上傳至 Hugging Face，提供原始檢查點及適用於 NVIDIA Blackwell 高效推理的 NVFP4 檢查點。
• Inkling-Small 預覽版，一個擁有 276B 參數的 MoE 模型（活躍參數 12B），針對低成本與低延遲進行優化。

最引人注目的一句話來自實驗室本身：Inkling「並非當今最強的整體模型，無論開放還是閉源」。這不是保守措辭，而是整個策略的核心所在。

核心理念：自行微調

大多數前沿實驗室——OpenAI、Anthropic、Google——都是先推出通用聊天機器人，再逐步疊加智能體功能。Inkling 則反其道而行。Thinking Machines 將其定位為定制化基礎，而非成品：一個廣泛、均衡的基礎模型，讓各機構通過實驗室的微調平台 Tinker 將其適配至自身工作流程。

該公司在發布前的一篇文章中闡述了這一論點：一個集中訓練後被凍結的模型，其表現不如每個機構圍繞自身專業知識塑造的模型。這一觀點正獲得外部支持：微軟 Satya Nadella 近期警告稱，依賴閉源模型的企業實際上「付了雙倍代價」——既要支付訂閱費，又將專有知識輸送給他人未來的模型版本（TechCrunch）。

Thinking Machines 提供的最具說服力的案例，是與對沖基金 Bridgewater Associates 的合作：研究人員在 Bridgewater 的金融專業知識上對開放模型進行微調，據報在金融推理測試中取得 84.7% 的成績，運行成本僅為頂級專有模型的約十四分之一。值得注意的是，這些數字來自兩家公司的自行評估，並非獨立第三方驗證。

這種模式的代價是風險自擔。由於客戶自行微調 Inkling，他們——而非 Thinking Machines——需要負責確保其定制版本的安全性。而在這個層面進行微調，需要具備真正的機器學習專業能力。

可調控思考強度

最具智能體應用價值的功能是可調控思考強度。Inkling 允許你調高或調低推理深度——以準確性換取速度和成本——且該設定可在程式碼或智能體框架內部進行調整。在 Hugging Face transformers 中，它以 reasoning_effort 參數的形式呈現，提供具名的強度等級。

其重要性在於：在生產環境的智能體中，成本和延遲通常是最關鍵的約束條件，而非峰值基準分數。Inkling 的發布展示了其在 0.2 至 0.99 的強度範圍內的表現，顯示該模型能以比競爭對手更少的 token 達到相同分數。最典型的例子：在 Terminal Bench 2.1 上，Inkling 僅使用 NVIDIA Nemotron 3 Ultra 默認設定所需 token 數的約三分之一，便達到相同水準。

有趣的是，這種效率在一定程度上是在強化學習過程中自然湧現的。經過超過 3000 萬次強化學習（RL）推演，Inkling 的思維鏈自發變得更加簡潔——省略冠詞和連接詞，同時保持可讀性並得出相同答案。效率本身驅動了這種壓縮，而非直接的訓練目標。

Inkling 的基準測試

Inkling 定位為具競爭力的開放權重模型，而非絕對領先者。以下是發布時的部分代表性結果（在強度 0.99 下運行）：

• SWEBench Verified： 77.6% — 領先 Nemotron 3 Ultra（70.7%），與 Kimi K2.6（80.2%）及 GLM 5.2（80.0%）大致持平，落後於 Claude Fable 5（95.0%）等閉源模型。
• Terminal Bench 2.1（最佳框架）： 63.8% — 在開放權重模型中處於中游；在此項目落後於 GLM 5.2（82.7%）。
• GPQA Diamond： 87.2%；AIME 2026： 97.1% — 推理能力強勁。
• FORTRESS（對抗性安全測試）： 78.0% — 在實驗室比較的所有開放權重模型中內置安全防護最高，且不會過度拒絕外觀相似的良性查詢。
• 多模態： MMMU Pro（視覺）73.5%，VoiceBench（音頻）91.4% — 屬於較強的開放權重全模態結果之列。

這種模式是刻意為之：在文字、智能體、多模態及安全性方面廣泛均衡，而非在單一排行榜上突出。獨立驗證在此至關重要——部分分數依賴實驗室自行或自報的測試框架。

構建方式（及蒸餾問題）

以下是供技術人員參考的架構說明。MoE 設計大體遵循 DeepSeek-V3（256 個路由專家，2 個共享專家，每個 token 激活 6 個）。注意力機制以 5:1 的比例交替使用滑動窗口層和全局層，值得注意的是——Thinking Machines 使用相對位置嵌入而非 RoPE，並報告在長度外推方面表現更佳。訓練採用 Muon/Adam 混合優化器，在 NVIDIA GB300 NVL72 系統上進行。

公司坦誠承認的一個注意事項：為啟動後訓練，他們在其他開放模型生成的合成數據上進行了初始監督微調，包括 Moonshot AI 的 Kimi K2.5——這種做法稱為蒸餾（distillation）。實驗室表示這僅佔計算量的一小部分，且下一個模型將採用完全自包含的後訓練流程。

速度方面的聲明也是其賣點之一：OpenAI 花了約五年將技術推向市場，Anthropic 約三年；Thinking Machines 表示其僅用了約九個月。

開放權重對 AI 智能體的意義

對於構建智能體的團隊而言，真正重要的轉變不在於參數數量，而在於部署模式。開放權重基礎模型改變了經濟邏輯：無需按次向閉源供應商支付 API 費用，你可以在自己的基礎設施上運行模型，針對自身領域進行微調，並將最終模型保持私有。這與推動本地開放智能體技術棧普及的「掌控自身工作流」邏輯如出一轍。

Inkling 的可調控強度和智能體框架訓練非常契合這一場景。一個可以在複雜步驟時放慢、在簡單步驟時加速的模型——在你自己的智能體循環內部——正是長流程、多步驟工作流所需要的。如果你正在評估開放選項，我們對 DeepSeek V4 Pro、GLM-5.2 及 Kimi K2.7 Code 的深度解析涵蓋了 Inkling 所對標的其他前沿級開放權重模型。

用你自己的開源 AI 工作團隊付諸實踐

Inkling 的核心理念——可適配的自托管 AI 優於千篇一律的解決方案——與 Eigent 背後的理念不謀而合。Eigent 是一款開源的「協作」桌面應用，可在本地運行多智能體 AI 工作團隊。Inkling 是你可以微調的基礎模型，而 Eigent 則是其上的工作力層：一支能在你自己的機器上自動化真實多步驟工作流的智能體團隊，使用你選擇的模型。如果你想讓開放權重模型真正投入使用，而不只是閱讀基準測試數據，立即下載 Eigent，開始構建你自己的智能體工作流。