Inkling 模型怎麼選？Small 三分之一價，但官方兩欄數字是反的

💡 核心結論速覽 (TL;DR)

• 做 agentic 與寫程式選 Inkling-Small：智能 40.0 對 41.0，輸出價 $1.20 對 $4.05。
• 要事實正確別選小的：官方同表 SimpleQA 只有 20.6%，旗艦 43.9%。
• 個人自架我不推：官方地板 Small 要 180GB、旗艦 600GB 聚合 VRAM。
• 先用 OpenRouter 的 $0 免費層試，但動手前讀那三條官方條款。

繁中圈給 Inkling 模型的標籤是「美國最強開源新王」，但官方公告裡有一句沒人引用：「Inkling is not the strongest overall model available today, open or closed.」

Inkling 模型現在有兩個正式版本，多數人該選的是小的那個 Inkling-Small，但只限特定用途。真正卡住你的不是 975B 這個數字，是自架的記憶體地板，還有免費層那三條條款。

我每天泡在 AI 工具裡超過 10 小時，手上同時養著 ChatGPT 和 Claude 各 US$200 的高階方案。所以看到「開放權重、Apache 2.0、可自己下載微調」這種組合，我第一個念頭一定是「那我是不是能省一筆」。

這次我把兩張官方 model card 開在同一個螢幕上左右對照，本來想找出換過去的理由。結果先算出來的，是我不該自架的理由。

所以先別急著去抓權重——哪一種情況值得用它、哪一種情況連試都不用試？往下一題一題拆。

Inkling 模型是什麼？先跟英文單字和那隻魷魚分乾淨

Inkling 模型是 Thinking Machines Lab 在 2026 年 7 月 15 日發布的開放權重語言模型，License 欄明載 Apache 2.0，總參數 975B、啟動參數 41B。

先把名字的坑挖開。你去搜「Inkling」，前排會被英文字典站佔滿，因為 inkling 本來就是英文單字（略知、模糊的印象）；再往下還有 Splatoon 那隻魷魚角色，以及一家同名的電子書公司。搜這個詞要加「模型」兩個字，不然你拿到的全是別人的東西。

架構上它是 66 層的 decoder-only transformer，走稀疏 MoE。MoE 這個詞第一次看會卡住，你可以想成：公司裡養了 256 位顧問，每個問題只請其中 6 位進會議室，外加 2 位每場都在的常駐顧問。所以帳面上有 975B 個參數，實際每個 token 只動用 41B。規格上還有三件事要先記住：

• 預訓練吃掉 45 兆 tokens 的文字、圖片、音訊、影片。
• 輸入支援文字、圖片、音訊三種，輸出只有文字——想叫它畫圖或講話的先放棄。
• 脈絡窗口上限 1M tokens，這是模型能力上限，不代表每個服務都給你這麼多。

最讓我意外的不是規格，是官方公告的自我定位：它把自己寫成「a good open-weights base for customization」，並且直接承認不是今天最強的模型。我看過太多廠商公告了，肯在發布日自己講這句的真的不多——而繁中快訊沒有一篇引用它。

離開這段前先做一件事：把你收藏的那幾篇 7 月中發布快訊關掉，改用官方 model card 當基準。那幾天寫的文章都還不知道有小版本。

Inkling 和 Inkling-Small 差在哪？我會照用途分流不照參數

Inkling-Small 已經在 2026 年 7 月 30 日正式發布，不是預覽版了：276B 總參數、12B 啟動、42 層，同樣是 Apache 2.0。官方表上它的智能指數 40.0，旗艦 41.0，差 1 分。

但只看這 1 分就下結論，是我在同行文章裡看到最多的錯。同一張官方表格上，有兩欄的方向是完全反過來的。

看到 SimpleQA Verified 那一列我停了一下，20.6% 對 43.9%，事實性差了一倍以上。官方自己在 Inkling-Small 公告裡的說法反而最精準：「Inkling-Small surpassed Inkling on reasoning and agentic coding benchmarks. Inkling maintains an advantage on knowledge coverage and factuality.」

翻成人話：小的那個推理和寫程式更強，大的那個知道的事情更多、也更不容易亂講。這不是「小的比較差」，是兩台不同用途的機器。

所以我的分流是這樣：

• ❶ 做 agentic 流程、寫程式、跑大量任務又要控成本 → 我選 Inkling-Small，一分智能換三分之二的錢很划算。
• ❷ 要它回答事實、做知識檢索、當客服或問答底座 → 我選 Inkling，20.6% 這個數字在正式產品裡是災難。
• ❸ 還沒決定用途 → 兩個都掛上去跑同一批題目，不要用別人的 benchmark 當自己的驗收。

還有一個數字我覺得比任何評測都誠實：HuggingFace 近 30 天下載量，Inkling-Small 是 393,879 次，旗艦只有 308,200 次。真正在用的人已經用腳投票了，而所有快訊標題還在喊 975B。

下一步可以做的事：先寫下你這個專案「答錯一題的代價」有多大。代價大就別碰小的，代價小就省那筆錢。

Inkling 模型自己架要多少記憶體？官方地板我算完決定不買顯卡

Inkling 模型的官方自架地板是 BF16 至少 2TB 聚合 VRAM、NVFP4 量化版至少 600GB；Inkling-Small 對應的數字是 600GB 與 180GB。

官方給的達成方式寫得很白：

• ❶ Inkling BF16 → 8 張 NVIDIA B300 或 16 張 H200。
• ❷ Inkling NVFP4 → 4 張 B300（W4A4，需 SM100+ 架構）或 8 張 H200（W4A16）。
• ❸ Inkling-Small NVFP4 → 最少 1 張 B300 或 2 張 H200。

這是我這篇裡花最久時間的一段。我把兩張 model card 的硬體章節攤開，一格一格換算「如果我要自己養，最低要租到什麼機器」，算到後面愈算愈安靜——那不是加幾張顯卡的問題，是量級不同。官方列的是資料中心卡的張數，不是你桌機裡那張。算完我就把自架這條路劃掉了，不是因為貴，是因為我一個人維運不了推論框架。

但「一台都跑不動」也是假的。官方公告親自列名的整合夥伴 Unsloth（文件自述拿到 TML 的 day-zero access）有一份量化後的記憶體表，量測對象是 GGUF 的總記憶體（RAM＋VRAM 或統一記憶體），跟上面那組官方聚合 VRAM 是兩種不同量體，我刻意把它單獨列一張表，別把兩邊的數字放進同一欄比大小。

看到 89GB 這一格，路才通了：Mac Studio 這類統一記憶體大機，是真的跑得動 Inkling-Small 的 2-bit 版。兩個最常被問到的情況，我直接幫你對這張表：

• ❶ 統一記憶體 128GB 的 DGX Spark：剛好卡在 3-bit 那一格的門檻上，離官方 NVFP4 的 180GB 還有一段。能不能跑起來，跟能不能跑得好，是兩件事。
• ❷ 想硬上旗艦：Unsloth 的 1-bit 動態量化 UD-IQ1_S 佔 270GB 磁碟，要 Mac Studio Ultra 級或 RAM＋VRAM ≥290GB 才談得上。

所以我的判斷是：買顯卡堆 VRAM 這條路不划算，真要在家跑只有「統一記憶體大機＋量化」一條，而且你要接受精度衰退。量化你可以想成把高解析度照片存成壓縮過的 JPG——檔案小到塞得進你的機器，但細節回不來，想壓到 2-bit 還期待官方跑分，那是自己騙自己。

順帶提醒，跑本機模型之後你的機器會變成什麼樣子，我在電腦愈來愈卡那篇抓到的程序數量可以當心理準備。

接下來我會先做這件事：查出你現在那台機器的記憶體總量，先對官方地板、再對那張量化表。兩邊都對不上就別再研究自架，跳到下一段。

不買顯卡怎麼用 Inkling 模型？免費層有三條官方條款要先讀

Inkling 模型在 OpenRouter 上有 $0 的免費端點，input 和 output 都是 0，脈絡 1,048,576 tokens。但決定你能不能用它的不是價格，是三條條款。

我打了 OpenRouter 的 API 確認免費層還在（資料基準日 2026-09-12），順手把那一頁的條款原文抓下來，看完當場改了計畫：

• ❶「The free Inkling endpoint is only available for use with agentic harnesses.」——它限定給 agentic harness 用，不是一般聊天試玩入口。agentic harness 你可以想成一個會自己呼叫工具、一步步把流程跑完的外殼程式，不是你打開對話框聊兩句那種用法。
• ❷「Do not upload any confidential information or personal data (e.g., voices and images of people's faces).」——禁止上傳機密與個人資料，含人聲與人臉。
• ❸「Your usage of this free endpoint, including prompts and outputs, is logged and used to improve Thinking Machines Lab's models, products, and services.」——輸入和輸出會被記錄，拿去改進它們的模型與服務（官方另註記錄下來的 session 資料會先與帳號及持久識別碼去關聯）。

老實說，我原本打算拿手上正在整理的一份專案文件丟進去試，畢竟那是最貼近我真實用途的素材。讀完第二條和第三條我把素材換成公開資料——免費不等於沒有代價，代價是資料的流向。這個取捨你自己判斷，但至少要在知道的狀態下判斷。

還有幾個規格要拆清楚，不要籠統講「完整 1M 脈絡」：

• 脈絡 1,048,576 是輸入上限，輸出上限（max_completion_tokens）是 262,144。
• :batch 變體的脈絡是 524,288，不是同一個數字。
• API 回傳的每分鐘與每日上限都是 0，也就是官方沒公布配額，不是無限。
• 這個免費端點的 provider 就是 Thinking Machines 自己，quantization 標 nvfp4，過去一天 uptime 99.97%，但 supports_tool_choice 全是 false。

不想走免費層的話，官方公告點名的推論夥伴是 Together AI、Fireworks、Modal、Databricks、Baseten。要自己抓權重也可以，HuggingFace 上兩個 repo 的 gated 都是 false，不用申請就能下載。

如果你要的只是「用少少的錢把一個陌生模型摸清楚」，那條路我另外拆過一次：OpenCode 用 $10 換 $100 額度那套算式，跟這裡的免費層是同一個思路——先確認值不值得，再談要不要長期付。

這段的實際做法：先列出你要餵進去的素材，把含個資或客戶資料的那幾份圈起來。圈到的就不要走免費層。

用 Inkling 模型一個月要花多少錢？三套價格口徑千萬別混

Inkling 模型有三套完全不同的價格口徑，混用會讓你的預算差一個量級。我自己第一次整理時就差點把 Tinker 的訓練價當成 API 價，那會直接算錯好幾倍。

❶ OpenRouter 掛牌價（資料基準日 2026-09-12）：Inkling 是 input $1.00、output $4.05、快取讀取 $0.17；Inkling-Small 是 $0.45、$1.20、$0.10，單位都是每百萬 token。

❷ 官方公告註腳的輸出價：「Inkling output pricing is $4.05 / 1M tokens and Inkling-Small output pricing is $1.20 / 1M tokens」。$1.20 ÷ $4.05 大約是 29.6%，正確說法是輸出價只要三分之一，不是「便宜三倍」——後面那個講法字面上等於負價。

❸ Tinker 微調平台價，這是完全不同的服務。官方價目表拆成 prefill／sample／train 三欄，還分 64K 與 256K 兩種脈絡。

• Inkling 64K：sample 原價 $9.36、折後 $4.68；train 原價 $11.22、折後 $5.61。
• Inkling-Small 64K：sample 折後 $1.44；train 折後 $1.73。
• 全表都掛「Limited-time 50% discount」，快取 prefill 另有 80% 折扣。

那個折扣從 7 月掛到查核日 2026-09-12 還在，但官方從來沒公布截止日。這種沒有到期日的優惠，我不會寫進任何長期預算裡。你可能會想：那我到底該拿哪一欄去編預算？我的規則就三條。

• ❌ 錯：把 Tinker 的 train 價當成 API 每百萬 token 價。
• ❌ 錯：用折後價去估半年後的成本。
• ✅ 對：折後價只用來估「這一輪實驗」，長期預算一律用原價。

順便修正一個很多人會寫錯的地方：Tinker 上只有 64K 和 256K 兩種脈絡，沒有 1M。1M 是模型能力上限，Tinker 提供的選項是另一回事，256K 那個 ID 尾巴是 :peft:262144，一看就知道。

我自己怎麼判斷值不值得？我同時付 ChatGPT 和 Claude 各 US$200 的月費，所以我看 API 帳單的角度只有一句：多付這一筆，我換到什麼是訂閱買不到的？

答案只有兩個：

• ❶ 權重要握在自己手上，可自架、可存檔、不怕服務端哪天變卦。
• ❷ 真的要微調出一個屬於自己的模型。

兩個都不要的話，Inkling 模型的 API 對你就只是又一個聊天模型，而你已經付過錢了。

真的要比每題成本，我在 Gemini 3.8 Flash 那篇算過一次：同價不代表同成本，模型多跑幾趟你就多付幾趟。訂閱側的額度怎麼被燒掉也值得先看清楚，我在 Claude Max 20x 那篇記錄過一天燒光週額度的過程；API 側要注意長脈絡的價格斷崖，多一個 token 整筆翻倍不是只有一家在用。

你現在就能動手的一步：在試算表開三欄，分別填 OpenRouter 價、官方註腳價、Tinker 價，並在每一欄標上你抄的日期。日後回頭看才不會自己搞混。

Inkling 模型的 Apache 2.0 能直接商用嗎？開放權重不等於開源

Inkling 模型兩個版本的 License 欄都寫 Apache 2.0，HuggingFace 上 gated 都是 false，不用申請就能抓。但它是開放權重，不是開源。

這兩個詞的差別，繁中內容普遍講錯。官方 model card 寫訓練資料「drawn from publicly available sources, acquired from third-parties, or synthetically generated or augmented」，也就是資料本身沒有公開。

我會這樣比喻：開放權重像是把整個烤好的蛋糕給你，你可以切、可以賣、可以自己加鮮奶油；但食譜和食材來源沒給你，你沒辦法從頭復刻同一個蛋糕。開源是連食譜一起給。真要商用，我一定會先確認兩件事：

• ❶ model card 上另外掛了一份 Model Acceptable Use Policy，授權寬鬆不等於什麼都能做，那份要自己讀完。
• ❷ 「用它產出的內容著作權歸誰」我不會從 Apache 2.0 推論出「完全歸你」。AI 廠商的條款通常只給模糊承諾，這件事牽涉到你自己產品的商業模式，我會拿去問專業人士，不會靠一篇文章拍板。

建議的下一步：把 model card 上那份使用政策存成 PDF 並標上你讀的日期。之後真的要商用，這份就是你團隊的起點。

做中文專案該選 Inkling 模型嗎？官方唯一的多語言指標它是輸的

Inkling 模型在官方唯一公布的多語言綜合指標 Global-MMLU-Lite 上拿 88.7%，低於 GLM 5.2 的 89.2% 和 DeepSeek V4 Pro 的 89.3%——兩個都是開放權重的中國模型。

先把口徑講死，這句話最容易被人斷章取義：Global-MMLU-Lite 是跨語言綜合指標，不是中文專項測試。

官方沒有公布任何繁體中文或台灣專屬的 benchmark，model card 的 Languages 欄只有一句「English, general multilingual support」。所以我能說的是「在官方自己公布的多語言指標上它輸了」，不能說「Inkling 中文跑分 88.7%」，那是兩回事。更尷尬的是小版本——同一張官方表上，這一欄由高到低是這樣排的：

• Qwen3.5-397B-A17B 90.0%（比 GLM 5.2 的 89.2% 還高）
• Inkling 88.7%
• Inkling-Small 86.7%（比旗艦還低 2 分）

這是我全篇最想講的一句：繁中媒體一律用「美國開源新王」的框架，沒有一篇去翻官方表格裡對它不利的那一列。但如果你的專案主要跑中文，那一列正好是你最該看的。順帶一提，官方網站和 Tinker 文件都是英文，我沒有找到任何繁中介面。

要提醒的是版本號。官方 model card 拿來對比的是 GLM 5.2，而 Tinker 的模型表上已經出現 GLM-5.3（753B/40B、256K，沒掛折扣標籤），所以 89.2% 是那張表的比較基準版本，不是今天的最新版。要把基準對齊，這三份可以一起看：

• 開放權重這條線上「宣稱開源」和「你真的拿得到什麼」常有落差，我拆過 GLM-5.3 贏的那個模型你買不到，也拆過 Qwen3.8-Max 放出來的那一版。
• 成本要橫向比，對照 DeepSeek V4-Pro 的每題成本，那筆帳最有感。
• 真的在意中文情境，我會直接拉數發部那份原始檔看各家在兩岸題上的落差，那比任何跨語言綜合指數都貼近實際。

這段的行動建議：用你自己專案裡最常見的 20 題中文提問跑一輪，同時跑 Inkling 和一個中國開放權重模型。官方數字只能當假設，不能當結論。

跟 GPT 5.6 Sol、Claude Fable 5 比，Inkling 模型值得換嗎？

Inkling 模型在官方自己的表格上，HLE 純文字 29.7%、SWEBench Verified 77.6%；同表的 Claude Fable 5 是 53.3% 和 95.0%。差距不是幾個百分點的問題。

其他幾格也是同一個方向，Global-MMLU-Lite 這一欄我照官方表列給你看：

• Claude Fable 5 93.3%、Gemini 3.1 Pro 92.7%、GPT 5.6 Sol 91.8%
• Inkling 88.7%

比較亮的是 GPQA Diamond 87.2%，以及 SimpleQA Verified 43.9%——不過後者還是低於 DeepSeek V4 Pro 的 57.0%。官方引用的 Design Arena 人類盲測排得更細，整張榜是這樣的：

• Claude Sonnet 5 1333、Claude Fable 5 1329、Claude Opus 4.8 1285
• GLM 5.2 1275、Grok 4.5 1271、GPT-5.6 Sol 1260
• Inkling 1257（與 Claude Opus 4.6 同分）、Gemini 3.5 Flash 1254、Kimi K2.6 1249

官方在這裡的措辭是「ranks among the strongest open-weights models」，沒有說第一。這種寫法我反而信得過。

所以「要不要換過去」這題，我的答案很直接：如果你想找一個更聰明的聊天模型，不要換，你現在付的那家更強。Inkling 模型的價值不在分數，在三件閉源旗艦給不了的東西：

• ❶ 權重抓得回來，存在自己的硬碟裡。
• ❷ 可以微調成只服務你這個領域的版本。
• ❸ 授權是 Apache 2.0，商用的起點是公開條款而不是業務窗口。

我朋友最常問的版本是：「這個開源新王出來了，我是不是可以把訂閱退掉？」我的回答是先算一筆帳——你一個月付的訂閱費，換成 API 的每百萬 token 算得回來嗎？大部分重度使用者算完會發現訂閱還是便宜。如果你正在比同世代的閉源旗艦，我把兩家逐項對過的是 GPT-6 Astra 對 Claude Fable 5.1 那篇。

順便標一個版本號的陷阱：官方 model card 的比較對象是 GPT 5.6 Sol、Claude Fable 5、Gemini 3.1 Pro，今天都往前跑過了，拿舊表上的對手分數論斷該不該換是錯的算法。我逐項比過同世代那三款之後最想講的是：沒有一個是純升級，換過去都會失去你現在用得很順的東西。

下一步可以做的事：把你現在付費用的那個模型，和 Inkling 免費層，跑同一批你真的會用到的任務。分數是別人的，體感是你自己的。

誰適合用 Inkling 模型？這四種情況我勸你先別碰

Inkling 模型適合三種人：要把權重握在自己手上的團隊、要做 agentic 或程式任務又想壓成本的開發者、以及真的打算微調出自己模型的人。其他人我建議先觀察。

✅ 我會建議動手的情況：

• 公司政策要求模型與資料留在自己可控的環境，你需要的是可自架的權重，不是最高分。
• 你的主力任務是 agentic 流程或寫程式，而且量大到成本會痛——Inkling-Small 的輸出價只要旗艦的三分之一。
• 你要微調領域模型，Tinker 上 64K 與 256K 兩種脈絡都在，折扣期間試算成本比較好看。

❌ 這四種情況我勸你先別碰：

• ❶ 只是想找一個更強的聊天模型。你已經付的那家分數更高，換過去是退步。
• ❷ 要處理機密或個人資料，又只想用免費層。那三條條款寫得很清楚，這條路是封的。
• ❸ 主力是中文知識問答。多語言那一欄它輸給兩個中國開放權重模型，Inkling-Small 更低。
• ❹ 團隊沒有人能維運推論框架。自架要搭 SGLang、vLLM、TokenSpeed、Unsloth 或 Hugging Face 其中一種，這是長期人力成本，不是一次性安裝。

還有兩個我認為值得記下來的正面訊號，它們指向同一件事：

• ❶ Tinker 的退役清單上，Qwen3.6-27B 標了 Retiring September 2，而 Inkling 和 Inkling-Small 都不在那份清單上。
• ❷ 官方 news 頁在 7/30 之後沒有新模型也沒有下架公告，最新兩則是 8/24 的安全研究補助和 8/27 的 text-to-SQL 研究。

模型家族是穩定的，你現在做的技術選擇不會下週作廢。

我會特別去翻那份退役清單，是因為前面追過一輪Sora API 停用倒數：官方沒給接替模型的時候，痛的是你的產線，不是它的公關稿。所以「權重可以自己存一份」這件事，在我的評分表裡權重很高。

最後一步：如果你正在排「這一季要導入哪個模型」，我整理過的三天五款分三層那篇可以當你的篩選順序，先看哪一款、哪一款先別碰，都在裡面。把 Inkling 模型放進那張表的哪一層，你自己就有答案了。

FAQ 常見問題

只做中文專案，Inkling 模型和 GLM 5.2 我該選哪個？

單看官方唯一公布的多語言綜合指標，Inkling 88.7% 低於 GLM 5.2 的 89.2%，Inkling-Small 更只有 86.7%，所以語言表現是主要考量時我不會預設選 Inkling。但那是跨語言綜合指標、不是中文專項，官方也沒公布任何中文測試，正確做法是拿你自己專案的中文題目兩邊各跑一輪。

已經拿免費層跑過東西，才知道會被記錄，怎麼補救？

先停下來盤點你送過去的內容有沒有含個資、客戶資料或未公開的商業資訊。官方條款寫明輸入輸出會被記錄用於改進模型，也寫明記錄的 session 資料會先與帳號和持久識別碼去關聯，但已經送出的內容沒有回收鍵。後續處理我會改走付費端點或官方列名的推論夥伴，並在流程裡加一道「素材分級」的關卡。

自架 Inkling-Small 和直接付 API 錢，我該先做哪一個？

先付 API 錢。官方自架地板 Inkling-Small 是 BF16 600GB、NVFP4 180GB 聚合 VRAM，走 Unsloth 量化路線最低也要 89GB 的總記憶體，而且精度會衰退。我的判斷是：先用 API 把用途驗證出來，確認這個模型真的比你現在用的合適，再去談自架的硬體與人力。順序顛倒是燒錢最快的方式。

要不要等 Inkling 下一代出來再導入？

官方只說過 Inkling 是同一個模型家族的第一次發布、會繼續往下做，沒有公布任何時程。以我評估工具導入的習慣，等不到明確時程的下一代就不該把專案卡住。現在兩個版本都是 Apache 2.0、都不在退役清單上，先把流程跑通，下一代來了再換權重比乾等划算。

Inkling 模型會不會突然下架，害我的專案斷掉？

權重已經在 HuggingFace 上以 Apache 2.0 公開且 gated 為 false，你抓下來那一份不會因為官方改主意而消失，這是開放權重最實際的保險。會變動的是託管服務：免費端點的配額官方沒公布、Tinker 的折扣也沒有截止日。我的做法是把權重先存一份，服務層則假設它隨時會變。

參考資料

• Thinking Machines Lab — Inkling Model Card（發布日、授權、參數、硬體需求、評測表）
• Thinking Machines Lab — Inkling-Small Model Card（276B/12B、評測對照表）
• Thinking Machines Lab — Introducing Inkling（官方公告、夥伴名單、Design Arena）
• Thinking Machines Lab — Introducing Inkling-Small（輸出價註腳與官方分流說法）
• Tinker Docs — Models 價目與脈絡選項（64K／256K、限時折扣）
• OpenRouter — Inkling 免費端點頁（免費層三條官方條款）
• Hugging Face — thinkingmachines/Inkling 權重 repo（Apache 2.0、未設門檻）
• Unsloth Docs — Inkling 量化版記憶體需求表（官方整合夥伴）
• Artificial Analysis — Inkling-Small 智能指數與旗艦差 1 分
• Apache License 2.0 授權條款原文