Kimi K3 開源是真的嗎?2.8 兆參數的自架成本與跑不動真相

Kimi K3 開源是真的嗎?2.8 兆參數的自架成本與跑不動真相
目錄

💡 核心結論速覽 (TL;DR)

  • 權重放了,但「開源」仍是媒體用詞:完整權重已於 2026 年 7 月 27 日上架 Hugging Face,但官方寫的是「open model」,訓練碼與訓練資料照樣沒公開,授權也是自訂的 Kimi K3 授權,不是 MIT。
  • 能下載,但你幾乎確定跑不動:官方建議 64 顆以上加速器;官方模型庫實際躺著 96 個分片、約 1.5TB,512GB 的 Mac Studio 連一半都裝不下。
  • 真正的變化在第三方託管:權重一放,OpenRouter 上的 K3 從只有原廠一條,變成 6 家供應商、7 條端點——資料落地第一次真的有得選,但價格沒變便宜。
  • 要「自己跑」還是只能 K2:K2.7-Code 有 14 個託管端點、多數為西方營運,授權寬鬆,高階工作站真的架得起來。能下載,不等於你架得動。

「全球最大開源模型」——這幾天你大概到處都看到這句話。

然後你點進 Hugging Face,想把它抓下來自己跑。檔案確實在那裡——96 個分片,加起來大約 1.5TB。按下下載之前,先看一眼你硬碟還剩多少。

Kimi K3 開源這件事,從措辭到授權到硬體門檻,中間有三層落差被媒體標題壓掉了——而每一層都會讓「我自己跑一份」這個計畫在不同的地方撞牆。

我用 AI Agent 從零架過幾套自己的系統,包括一整個網站和一套客服流程,所以每次看到新模型釋出權重,我的直覺反應都是「這個能不能搬進來自己養」。自己養的誘因很實在:資料不用外送、不看別人臉色改 API、成本可以攤平。

但這次我算完之後的結論是:權重是放出來了,自架這條路對絕大多數人還是走不通——可是旁邊多了一條真的能走。差別在哪,往下看。


Kimi K3 開源了嗎?官方說法跟媒體標題差了一個關鍵字

權重放了,但嚴格來說還是不算。2026 年 7 月 27 日,Moonshot 如期把完整權重上架 Hugging Face——能下載了,不等於它就是「開源」。

先把時間軸講清楚。官方部落格當初寫的是「完整模型權重將於 2026 年 7 月 27 日前釋出」——注意是「前」,那是一個期限而不是確定日期,所以在最後一刻之前,沒有人知道會不會延。結果 Moonshot 壓線交件,7 月 27 日當天權重就上去了。

現在去翻 Moonshot 在 Hugging Face 的官方帳號Kimi-K3 的模型庫就躺在最上面:96 個 safetensors 分片,加上設定檔與 tokenizer,整包約 1.5TB,而且不需要申請就能直接下載。

不過這裡要給一個很實際的提醒:權重一放,仿冒的鏡像庫也跟著冒出來了。我在搜尋結果裡就看到掛著同樣模型名稱、但帳號根本不是 Moonshot 官方的模型庫。下載前一律確認網址底下的組織是官方的 moonshotai,別看到名字對就抓。

第二層落差在用詞。中文媒體幾乎一致寫「全球最大規模的開源模型」,但 Moonshot 自己從頭到尾用的是「open model」——開放模型,不是 open source。

這不是咬文嚼字。開放源碼促進會(OSI)對開源 AI 的定義要求同時提供權重、訓練程式碼與訓練資料的充分資訊,讓別人能重建一個實質相同的系統。照這個標準,Kimi K3 開源這個說法目前並不成立。

項目 K3 是否提供 對你的實際影響
模型權重 是,2026/7/27 上架(96 分片約 1.5TB) 能自己跑、能微調——前提是你有那個硬體
訓練程式碼 無法複現訓練流程
訓練資料 無法稽核它學了什麼、有無偏誤
技術報告 尚未發布 架構細節只能靠推測
授權條款 自訂「Kimi K3 授權」 可商用、可改作,但對外提供服務有營收門檻

我覺得有趣的是:這次是廠商比媒體保守。Moonshot 沒有自稱 open source,是外界替它加冕的。這在 AI 產業裡不太常見,通常是反過來。

那授權呢?這是這次最值得看仔細的一格。前一代 K2 用的是修改版 MIT,寬鬆到只有在月活躍用戶破 1 億、或月營收超過 2,000 萬美元時,才需要在介面上標示用了 Kimi。K3 沒有沿用,而是自己開了一份「Kimi K3 授權」。

把條款讀完,它保留了 MIT 那種「可以用、可以改、可以再散布、可以拿去賣」的底,但多加了兩道門檻:一是同樣的 1 億月活或 2,000 萬美元月營收,達到就要在介面顯著標示「Kimi K3」;二是如果你拿它對外提供模型服務,而你和關係企業連續 12 個月累計營收超過 2,000 萬美元,商用前要先跟 Moonshot 另外簽約。純內部使用,或是透過官方產品與認證推論夥伴來用,則不受這兩條限制。

對個人和中小團隊來說,這兩道門檻實務上都碰不到。但如果你打算把它包成產品對外賣,第二條值得請法務看一眼——那是 K2 世代沒有的東西。

下一步:如果你的計畫依賴 K3 的權重,現在該做的不是等,是先算硬體——下一段就在算這件事。至於 K3 本身值不值得用,我在拆它兩張榜單落差與訂閱定價的那篇裡把該問的問題都問過一輪了。


Kimi K3 開源之後跑得動嗎?1.5TB 權重與 64 顆加速器的現實

2.8 兆參數的模型,官方自己建議的部署環境是「64 顆以上的加速器」。這句話是 Moonshot 寫在發布文裡的,不是我推估的。

同一套算法我拿去對阿里的 2.4 兆旗艦,官方檔案清單加總出 4,892 GB、要 57 張 H100

我知道很多人看到「開放權重」的第一個念頭是:那我買張好一點的顯卡是不是就行了?我們把數字攤開來看就會很清楚。

K3 用的是 MXFP4 這種原生 4-bit 格式(啟動值走 MXFP8)。2.8 兆參數乘上每個參數約 4.25 個位元,再除以 8 換成位元組,大約落在 1.4 到 1.5TB——而官方模型庫上真正躺著的檔案是 96 個分片、加起來約 1.5TB,跟推估對得上。這還沒算推論時要吃掉的 KV cache。

🧮 把它換算成你認得的東西

頂規 512GB 統一記憶體的 Mac Studio,是目前一般人買得到、記憶體最大的單機之一。它裝得下這 1.5TB 的多少?大概三分之一,連一半都不到。而這台機器的價格,也遠超過大多數人願意為推論硬體付出的預算。

然後是最容易被誤會的一點。很多人會想:4-bit 太大就再壓成 2-bit 嘛,開源社群不是很會做量化嗎?

這條退路這次沒有。依官方發布文與技術媒體一致的說法,K3 從監督微調階段開始就是量化感知訓練出來的,4-bit 是它的原生檔位,不是事後壓出來的成果。你再往下壓,掉的品質會比一般模型嚴重得多。

另外,官方到目前為止沒有宣布任何 K3 的小型版本——沒有 Air、沒有 mini、沒有 Flash。這點跟很多同業的做法不一樣,也代表短期內不會有「縮小版讓你在家跑」的選項。

下一步:如果你的目的是「把模型放在自己控制的機器上」,K3 現階段直接從清單上劃掉,把時間花在下面兩段講的 K2 路線。


那走 OpenRouter 打 Kimi K3,資料就不會進中國了嗎?

權重釋出之前不會,現在會了——但沒有變便宜。這是本篇改動最大的一段。

很多人的折衷方案是:既然自己跑不動,那就透過 OpenRouter 這類第三方聚合平台去用,選一個西方營運的供應商,資料就不會直接送到中國的伺服器——這個邏輯在很多開放權重模型上是成立的,我自己第一時間也是這樣想。

權重還沒放的時候我查過 OpenRouter 的端點清單,K3 只有一條真正自營的端點,供應商就是 Moonshot 自己——那時候繞第三方完全沒有意義。權重上架之後我再查一次,同一頁已經變成 6 家供應商、7 條端點。

Together、Fireworks、Baseten、DigitalOcean、Nebius 這些非中國業者,現在都各自把權重架在自己的機器上跑。換句話說,「選一個非中國託管商,資料就不進中國」這條路,是從權重落地那天起才第一次真的成立。

不過先別急著搬。我把價格拉出來比對,發現一件有點反直覺的事:第三方託管幾乎全部跟原廠同價,都是每百萬 token 輸入 3 美元、輸出 15 美元,其中一條標榜高速的還要 4.5/22.5 美元。你換到的是資料落地,不是省錢。

還有一個細節值得挑出來看:這幾條端點的量化格式和上下文長度並不一致——原廠是 MXFP4,有的走 fp8 或 fp4,上下文也有落差,其中一條甚至只給到 8K。同一個模型名字,實際吃到的規格不見得一樣。挑供應商時要連這兩欄一起看,不是只看價格和國籍。

這也剛好演示了「開放權重」為什麼有實質意義,而不只是行銷詞:權重一旦公開,它就只是一份檔案。檔案放在誰的機器上跑,資料就留在誰那裡,不會回傳給原廠。K3 從 7 月 27 日起,才真的走到這一步。

下一步:先確認你的顧慮到底是什麼——是「不想讓中國公司看到」還是「不想讓任何雲端看到」。這兩個答案會指向完全不同的方案,我在寫中國開源模型該不該用時整理的那套資料流向框架裡有完整的分流邏輯。


真正能自架的其實是 Kimi K2:一條被開源標題蓋掉的可行路線

如果你要的是「權重在我自己的機器上跑起來」,答案還是不會是 K3,而是已經發了好幾代的 K2。差別不在能不能下載,在下載完之後跑不跑得動。

這條路線幾乎被 K3 的新聞完全蓋掉,但它才是現在真的能動手的那條。K2 世代在 Hugging Face 上是實打實躺著的:K2-Thinking、K2.5、K2.6,以及專攻程式的 K2.7-Code。

順帶修正我自己之前寫過的一個建議。我在整理 DeepSeek 免費版能做什麼那篇裡說過,敏感內容可以改用本機跑開源模型的方式處理——那個建議在 DeepSeek 那個參數量級成立,套到 K3 這種兆級模型上就完全不成立了。模型規模長大的速度,已經超過「本機跑」這個解法能跟上的速度。

如果你單純是在找權重可下載的模型,選擇也不只 Kimi 一家。Mistral 跟 ChatGPT、Claude 的對照那篇談過另一條歐洲路線,硬體門檻比 K2 友善不少,適合機器沒那麼猛的人先試。

比較項 Kimi K3 Kimi K2 世代
權重是否可下載 是,2026/7/27 上架 是,已上架
總參數/啟用參數 2.8 兆/1,040 億 1 兆/320 億
授權 自訂 Kimi K3 授權 修改版 MIT,限制極寬鬆
第三方託管端點 7 個(6 家供應商) K2.7-Code 有 14 個
單機自架可行性 不可行 高階工作站可行

注意那個「320 億啟用參數」——這是關鍵。混合專家架構你可以想成一間有一百個專科醫師的醫院:掛號的人再多,真正看你這一診的只有一兩位。

K2 帳面上是 1 兆參數,每次推論卻只叫醒其中 320 億。所以卡住你的從來不是算力,是記憶體塞不塞得下。

硬體門檻大概是這樣(以 K2-Thinking 為例,採 Unsloth 的動態量化):

  • ❶ 最低可跑:官方要求硬碟 + 記憶體 + 顯卡記憶體加總 ≥ 247GB
  • ❷ 最小量化:約 245GB,品質折損較明顯
  • ❸ 推薦檔位:約 381GB,品質與體積的平衡點
  • ❹ 較完整版:約 588GB

速度方面:有人回報 24GB 顯卡搭 256GB 記憶體大約每秒 1 到 2 個 token——能跑,但慢到只適合批次任務;512GB 的 Mac Studio 有人回報約每秒 26 個 token,長上下文時會掉到 13 以下。這些數字都是使用者回報,不是官方保證,我列出來是讓你抓量級,不是拿來當規格書。

下一步:先用 Unsloth 的本機執行說明對照你現有機器的記憶體總量,能不能過 247GB 這關,五分鐘就知道答案。要注意的是,模型在本機跑起來之後,權限管理反而是更容易出事的地方。我讓 AI 代理直接動我自己的檔案時吃過這個教訓,寫成了五道防線那篇——同一套原則搬到本機模型上一樣適用。


開源模型自架划算嗎?跟 API 的成本對照,答案可能跟你想的不一樣

對絕大多數人來說,自架不划算——除非你的真正需求不是省錢,而是資料不能出門。

這是我自己架過幾套系統之後最深的體會。自架最容易被低估的成本從來不是硬體,是你的時間:環境要調、模型要更新、壞了要修,而這些工時沒有人幫你計價。

把三條路的價錢放在一起看:

方案 輸入/百萬 token 輸出/百萬 token 資料落在哪
K3 官方 API $3.00 $15.00 Moonshot
K3 第三方託管(權重釋出後) $3.00 $15.00 該託管商
K2.7-Code 西方託管(最低價端點) $0.72 $3.50 該託管商
K2.7-Code 主流託管 $0.95 $4.00 該託管商
自架 K2 硬體攤提 硬體攤提 你自己

這張表有兩個訊號。第一,K3 的官方 API 比 K2 世代的西方託管貴了四倍以上——你為那個「最新」付了很高的溢價。這個價位怎麼來的、為什麼實際帳單還會再高一截,我在拆它定價的那篇算過。

第二,K2.7-Code 在 OpenRouter 上有 14 個端點可選,價差最多超過 30%,而且多數是西方營運的服務商,這意味著你同時拿到便宜和資料落地的選擇權

那什麼時候自架才真的成立?我的判斷是三個條件要同時滿足:

  • ❶ 資料真的不能出門——法遵、合約或客戶要求,不是「感覺比較安心」
  • ❷ 用量夠大且穩定——每月 API 帳單已經逼近硬體攤提,否則永遠回不了本
  • ❸ 有人維護——不是「我週末研究一下」,是真的有人負責它壞掉的時候

三個裡面少一個,我都會建議先用託管 API。「先自架再說」是我看過最貴的省錢方式。

還有一個很多人沒算進去的變數:地緣政治。模型會不會突然變得不能用、能不能繼續買到,這幾年已經不是理論問題了——出口管制讓某些模型在特定地區被斷掉的那次就是活例子。權重放在自己硬碟上,這個風險才真的歸零;用誰的 API 都歸零不了。這是自架少數幾個「多付錢也合理」的理由。

下一步:先把你上個月的 API 帳單拉出來,乘 12,跟一台夠格機器的價格比一比。如果差距不到三倍,自架幾乎確定不划算。真正該先做的是把用量壓下來,我整理過AI 代理省 token 與成本的完整流程,還有不換方案也能省下大量 token 的 10 個習慣——先把用量壓下來,很多人會發現根本不需要自架。


開源與自架講的是它的底細;至於 Kimi K3 實際做起事來是什麼手感、跟另外四家比性格差在哪,我讓五家各做一款可親手玩的遊戲+各寫一封訊息實測過,它慢歸慢,但交卷前會自己跑一輪測試確認能跑。

Kimi K3 開源後誰該自架、誰該直接用 API?

直接給你分流表,不用讀完全文也能對號入座。

同樣喊開源,GLM-5.3 這次卻破了發布當天就放權重的慣例,延到約兩週後而且授權還沒公布

同樣叫開放權重,296 億參數那一級是真的塞得進一張消費級顯卡——Meta 這個 30B 模型我對完官方規格,門檻和隱藏容量都在這裡

你的情況 建議路線 理由
個人開發、想省錢 K2.7-Code 西方託管 API 每百萬 token 0.72 美元起,不用養機器
企業有法遵要求 自架 K2 權重是檔案,資料不外流
只想試最強的 K3 先看 K3 本身值不值得付 託管端點變多了,但自架仍不在選項內
想等 K3 自架 先別規劃 硬體門檻不是消費級能碰的
只是好奇想玩玩 免費層或既有訂閱 自架的時間成本遠高於價值

我要特別對「想等 K3 自架」那群人多說一句,因為我猜有些人是為了這個才點進來的。

權重是放出來了,但你面對的仍然是官方建議的「64 顆以上加速器」那個等級的部署環境。這不是「等我明年換電腦」能解決的差距,是差了一整個資料中心。與其硬碰,不如把 K2 那條路先跑通——架構相近、工具鏈相同,未來真的有小型版本出來,你的經驗可以整套搬過去。

還有一個判斷我想留給你:不要因為一個模型「開源」就預設它比較安全。開放權重降低的是「資料被原廠看到」的風險,它完全不降低模型本身的偏誤、審查傾向或輸出品質問題。這兩件事常被混為一談,但它們是不同的風險。

下一步:先確定你屬於上表哪一列,再去看對應的方案。如果你連要不要為 AI 付錢都還在猶豫,免費版跟付費版到底差在哪那篇會比這篇更適合你先看。


FAQ 常見問題

Kimi K3 開源到底算不算數?

照嚴格定義不算。權重確實已在 2026 年 7 月 27 日上架 Hugging Face,但 Moonshot 官方用的詞是「open model」而非 open source,釋出的也只有權重——訓練程式碼、訓練資料和技術報告都沒有公開,授權還是自訂的 Kimi K3 授權,不是 MIT 或 Apache 這類標準開源授權。真正的開源模型應該讓外界能複現訓練流程並稽核資料來源,K3 兩者都做不到。比較準確的說法是「開放權重模型」。

我的電腦有 64GB 記憶體,能跑 Kimi K3 嗎?

不行,差距非常大。K3 官方模型庫上的權重是 96 個分片、約 1.5TB,官方建議的部署環境是 64 顆以上的加速器。64GB 記憶體連 K2 世代最小的量化版本(約 245GB)都跑不動。如果你想在自己機器上跑 Kimi,實際的最低門檻是硬碟、記憶體與顯卡記憶體加總約 247GB,而且速度會很慢。

透過 OpenRouter 用 Kimi K3,資料會比較安全嗎?

權重釋出後有差別了。K3 剛發表時 OpenRouter 上只有原廠一條端點,繞第三方等於多墊一層轉發、資料流向不變;權重在 2026 年 7 月 27 日上架之後,Together、Fireworks、Baseten、DigitalOcean、Nebius 等非中國業者陸續把 K3 架在自己的機器上,這時候選託管商才真的會改變資料落在哪裡。要注意的是價格幾乎沒有因此變便宜(多數與原廠同為每百萬 token $3/$15),而且各家的量化格式與上下文長度並不一致,挑的時候要一起看。

Kimi K3 的權重放出來了嗎?可以商用嗎?

已經放了,時間是 2026 年 7 月 27 日,剛好是官方承諾的期限當天,位置在 Hugging Face 的 moonshotai 官方組織底下,不需要申請就能下載。商用是可以的:它採用自訂的「Kimi K3 授權」,允許使用、修改、再散布與販售,但有兩道門檻——月活躍用戶破 1 億或月營收超過 2,000 萬美元,要在介面顯著標示「Kimi K3」;若拿它對外提供模型服務,且你與關係企業連續 12 個月累計營收超過 2,000 萬美元,商用前需要先與 Moonshot 另簽協議。一般個人與中小團隊碰不到這兩條。

自架開放權重模型,真的能省錢嗎?

多數情況不能。自架最常被低估的是時間成本——環境調校、模型更新、故障排除都沒人幫你計價。我的判斷標準是三個條件要同時成立:資料確實不能離開自家環境(法遵或合約要求)、用量大到 API 年度帳單逼近硬體攤提、以及有專人負責維運。少一個就建議先用託管 API,把心力花在壓低 token 用量上更有效。


結論:Kimi K3 權重是放了,但跑得動的還是 K2

這次事件最值得記下來的,其實不是 K3 有多強,而是Kimi K3 開源這句話本身,暴露了「開源」兩個字在 AI 領域已經被稀釋到快要沒有意義

權重、程式碼、資料、報告、授權——五樣東西裡放出一樣就能被叫做開源,那讀者要怎麼判斷自己實際上能做什麼?下次再看到「最大開源模型」這種標題,我建議你養成一個習慣:直接去官方的模型庫看檔案在不在。在,就是真的;不在,那就還只是一則新聞。

回到最實際的問題。如果你的目標是把模型握在自己手上,路線還是很清楚:今天能真的跑起來的是 K2,不是 K3。K2 權重已上架、授權寬鬆、有 14 個託管端點可選、單機自架在高階工作站上是可行的。K3 雖然準時交出了權重,硬體門檻仍然不是個人或中小團隊能碰的量級——能下載和跑得動,是兩件事。

至於什麼時候該重新評估——如果 Moonshot 之後推出 K3 的小型版本,這整篇的結論就要改寫。在那之前,把 K2 的工具鏈跑熟,是為未來做的最划算的準備。

如果自架這條路對你走不通、決定直接付錢用官方的,那下一題就是該停在哪一檔——四檔會員我把每點成本都算過,最划算的其實是第二檔而不是最貴那檔,而且純聊天本來就不吃額度、根本不用付錢。

想知道 K3 本身作為工具值不值得付錢,可以接著看我拆它定價、榜單落差與台灣可用性的那篇;對我平常怎麼挑工具有興趣的話,看看我平常怎麼挑工具、踩過哪些訂閱的雷。訂閱我的部落格,會不定期收到信。


參考資料

 

延伸閱讀