Thinking Machines Inkling：Mira Murati 首個開放權重模型深度解析

Thinking Machines Lab 是由前 OpenAI 技術長 Mira Murati 創立的新創公司，近日發布了其首個自研模型：Inkling——一個開放權重、多模態的混合專家（Mixture-of-Experts，MoE）系統。這次發布最令人驚訝的不是模型規模，而是背後的策略。Inkling 並非為了贏得基準測試排行榜而生，而是為了讓各組織能夠下載、微調並依自身需求重塑模型。本文將介紹 Inkling 的規格、基準測試表現、「可調控推理強度」的概念，以及開放權重基礎模型對 AI 智能體開發的意義。

什麼是 Inkling？

Inkling 是 Thinking Machines Lab 的首個公開模型，於 2026 年 7 月 15 日正式發布——這是該實驗室在約 18 個月的私有基礎設施建設後，首次對外展示的重要成果（TechCrunch）。

以下是來自實驗室官方發布文章的核心數據：

• 總參數量 9750 億，活躍參數 410 億 — 採用 MoE Transformer 架構，每個 token 僅啟動一部分權重，使超大規模模型在運行時更快速、更經濟。
• 100 萬 token 上下文視窗。
• 在 45 兆 token 上預訓練，涵蓋文字、圖像、音訊與影片，可跨四種模態進行原生推理。目前輸出形式為文字：包括程式碼、結構化資料與格式化內容。
• 開放權重 — 完整權重已上傳至 Hugging Face，提供原始檢查點與適用於 NVIDIA Blackwell 高效推理的 NVFP4 檢查點兩種版本。
• Inkling-Small 預覽版，一個擁有 2760 億參數的 MoE 模型（活躍參數 120 億），針對低成本與低延遲場景進行優化。

最引人注目的一句話來自實驗室本身：Inkling「並非目前市面上整體最強的模型，無論是開放還是閉源」。這不是保守的說法，而是整個策略的核心。

核心賭注：自行微調

大多數前沿實驗室——OpenAI、Anthropic、Google——都是先推出通用聊天機器人，再逐步疊加智能體功能。Inkling 則反其道而行。Thinking Machines 將其定位為一個可客製化的基礎模型，而非成品：一個廣泛、均衡的基礎模型，讓各組織透過實驗室的微調平台 Tinker 將其調整為符合自身工作流程的專屬模型。

實驗室在發布前的一篇公司文章中闡述了這一論點：一個由中央統一訓練後凍結的模型，其表現不如各組織依據自身專業知識調整後的模型。這一觀點正獲得外部支持：微軟執行長 Satya Nadella 近期警告，依賴閉源模型的企業實際上「付了兩次費用」——一次是訂閱費，另一次是將專有知識餵入他人未來模型版本的隱性代價（TechCrunch）。

Thinking Machines 提出的最具說服力的案例，是與對沖基金橋水聯合（Bridgewater Associates）的合作：研究人員在橋水的金融專業知識上微調了一個開放模型，據報在金融推理測試中取得 84.7% 的成績，而運行成本僅為頂級專有模型的約十四分之一。值得注意的是，這些數字來自兩家公司自行評估，並非獨立第三方驗證。

這種模式的代價是風險自擔。由於客戶自行微調 Inkling，他們——而非 Thinking Machines——需要負責確保客製化版本的安全性。此外，這個層級的微調需要具備真正的機器學習專業能力。

可調控推理強度

對智能體開發最具參考價值的功能是可調控推理強度（controllable thinking effort）。Inkling 允許使用者調高或調低推理深度——以準確率換取速度與成本——且此設定可在程式碼或智能體框架內部動態調整。在 Hugging Face transformers 中，這項功能以 reasoning_effort 參數的形式提供，支援具名等級設定。

這項功能的重要性在於：在生產環境的智能體中，成本與延遲通常才是真正的瓶頸，而非峰值基準分數。Inkling 的發布展示了從 0.2 到 0.99 的強度掃描結果，顯示模型能以比競爭對手預設設定更少的 token 達到相同分數。最具代表性的例子：在 Terminal Bench 2.1 上，Inkling 僅使用 NVIDIA Nemotron 3 Ultra 約三分之一的 token 就達到相同水準。

有趣的是，這種效率部分是在強化學習過程中自然湧現的。在超過 3000 萬次強化學習（RL）展開過程中，Inkling 的思維鏈自發地變得更加簡潔——省略冠詞和連接詞，同時保持可讀性並得出相同答案。這種壓縮完全由效率驅動，並非直接的訓練目標。

Inkling 的基準測試表現

Inkling 定位為具競爭力的開放權重模型，而非全面領先的頂尖模型。以下是發布時的部分代表性結果（在強度 0.99 下運行）：

• SWEBench Verified： 77.6%——超越 Nemotron 3 Ultra（70.7%），與 Kimi K2.6（80.2%）和 GLM 5.2（80.0%）大致持平，落後於 Claude Fable 5（95.0%）等閉源模型。
• Terminal Bench 2.1（最佳框架）： 63.8%——在開放權重模型中居中；在此項目落後於 GLM 5.2（82.7%）。
• GPQA Diamond： 87.2%；AIME 2026： 97.1%——推理能力強勁。
• FORTRESS（對抗性安全測試）： 78.0%——在實驗室比較的所有開放權重模型中內建安全防護最高，且不會過度拒絕外觀相似的良性查詢。
• 多模態： MMMU Pro（視覺）73.5%，VoiceBench（音訊）91.4%——在開放權重全模態模型中屬於較強表現。

這種模式是刻意為之：在文字、智能體、多模態與安全性方面廣泛均衡，而非在單一排行榜上衝高分。獨立驗證在此至關重要——部分分數依賴實驗室自行或自我報告的評估框架。

模型構建方式（及蒸餾問題）

以下是幾個供技術人員參考的架構說明。MoE 設計大致遵循 DeepSeek-V3（256 個路由專家、2 個共享專家、每個 token 啟動 6 個）。注意力機制以 5:1 的比例交錯使用滑動視窗層與全局層，值得注意的是——Thinking Machines 使用相對位置嵌入而非 RoPE，並報告在長度外推方面表現更佳。訓練採用混合 Muon/Adam 優化器，在 NVIDIA GB300 NVL72 系統上進行。

實驗室坦誠提出了一個值得注意的問題：為了啟動後訓練階段，他們使用其他開放模型生成的合成資料進行了初始監督微調，包括 Moonshot AI 的 Kimi K2.5——這種做法稱為蒸餾（distillation）。實驗室表示這只佔計算量的一小部分，且下一個模型將採用完全自主的後訓練流程。

速度也是其賣點之一：OpenAI 花了約五年將技術推向市場，Anthropic 約三年；Thinking Machines 表示自己在約九個月內完成了這一過程。

開放權重對 AI 智能體的意義

對於構建智能體的團隊而言，真正有趣的轉變不在於參數量，而在於部署模式。開放權重基礎模型改變了經濟邏輯：無需按次向閉源供應商支付 API 費用，你可以在自己的基礎設施上運行模型、針對特定領域進行微調，並將最終模型保持私有。這與推動本地、開放智能體堆疊普及的「掌控自己的 AI 工作力」邏輯如出一轍。

Inkling 的可調控推理強度與智能體框架訓練非常契合這個世界。一個可以在困難步驟放慢、在簡單步驟加速的模型——在你自己的智能體循環內部——正是長流程、多步驟工作流程所需要的。如果你正在評估開放選項，我們對 DeepSeek V4 Pro、GLM-5.2 和 Kimi K2.7 Code 的深度解析涵蓋了 Inkling 所對標的其他前沿級開放權重模型。

用開源 AI 工作力付諸實踐

Inkling 的核心理念——可適應、自託管的 AI 優於一體適用的解決方案——與 Eigent 背後的賭注如出一轍。Eigent 是一款開源「協作」桌面應用程式，可在本地運行多智能體 AI 工作力。Inkling 是你微調的基礎模型，而 Eigent 則是其上的工作力層：一支能在你自己的機器上自動化真實、多步驟工作流程的智能體團隊，使用你選擇的模型。如果你想讓開放權重模型真正發揮作用，而不只是閱讀基準測試數據，立即下載 Eigent，開始構建你自己的智能體工作流程。