AI 會取代人類嗎?拆解 Anthropic 三種未來與人類剩的價值

目錄

💡 核心結論速覽 (TL;DR)

  • Anthropic 給的不是一個答案,是三種未來:趨勢撞牆(S 曲線)、複合效率持續、完整遞迴自我改進——它自己押「中間那個」最可能。
  • 人類沒有出局,位置變了:當「執行」便宜到趨近零,稀缺的變成 research taste、判斷結果可信度、方向設定——這三件 AI 目前還接不住。
  • 新瓶頸不在生產,在審查:程式碼狂吐出來後,人類的 review 變成塞車點(Amdahl's law)。我每天最花時間的,早就是「判斷東西能不能用」而非「生出東西」。
  • 我的押注:別賭哪個情境成真,把力氣花在練「選題、判斷、驗證」這層能力——三種未來它都用得上。

「Claude 寫了 Anthropic 超過 80% 的程式碼。」這句話第一次看到,多數人的反應是倒抽一口氣:那工程師要幹嘛?再往下想一層,問題其實更尖銳——如果連寫程式這種高技能工作都被接走了,AI 時代的人類,到底還剩下什麼有價值的位置?

這題我想了很久,因為它直接關係到我的飯碗。我一個人撐著好幾個專案:一個英文內容站 mylingblog.com、一個自架的台股工具、還有一個社群類產品,全部重度依賴 AI。所以「人類還剩什麼」對我不是哲學問題,是每天睜開眼要面對的營運問題。

剛好 Anthropic 那份報告把未來拆成了三種情境,還誠實標出自己押哪一個。(這份報告前陣子被一個聳動標題斷章取義,我在「Claude 瓦解人類」其實在講相反的事那篇已經把原文完整擺回原位,沒看過的可以先補。)這篇我把三種情境逐一拆給你看,再從一個實際靠 AI 過日子的人的角度,回答那個最現實的問題:人類剩下什麼,而你現在該練什麼。


先把座標定出來:「遞迴自我改進」到底在講什麼?

遞迴自我改進(recursive self-improvement)一句話講完:AI 強到能自己設計、開發出更強的下一代 AI,然後一代接一代自己往上爬。這是整份報告的核心懸念,也是所有恐慌的源頭。

但先把話講清楚,Anthropic 自己白紙黑字寫:「我們還沒走到那一步,而且它也不是必然會發生。」這很重要——它不是在宣告未來已定,而是在說「這條路有可能,我們得先想清楚」。也正因為沒定,它才給三種情境,而不是一個結論。

為什麼是三種?因為接下來會怎麼走,取決於兩件事:技術趨勢會不會繼續、以及我們選擇怎麼應對。把這兩個變數排列組合,就得到三條岔路。理解這三條路長什麼樣,比急著問「人類完不完蛋」有用得多。


情境一:趨勢撞牆,但今天的 AI 已經夠你受的

第一種情境是樂觀派會喜歡的:那些看起來陡到嚇人的指數曲線,其實是 S 曲線——爬到某個點會彎、會平掉。報告坦白說,這一種「我們不認為最可能」,但值得列出來,因為它給政府和社會最多的緩衝時間。

撞牆可能撞在哪?也許是「判斷力」這種東西沒辦法靠堆算力和資料長出來,需要一個像當年 Transformer 那樣的全新架構突破才過得去;也可能瓶頸根本不在模型,而在供應鏈——晶片、電力、頻寬不夠快。這些都可能讓曲線提早彎掉。

但這裡有個關鍵,也是最多人忽略的:就算 AI 能力「凍結在今天」,世界還是會被大改一輪。報告舉了 Project Glasswing 當例子——它的模型在頭幾週,就在全球最重要的系統裡找出超過一萬個高危與關鍵級的軟體漏洞,多到讓資安的瓶頸從「找漏洞」變成「來不及修」。

換句話說,連最樂觀的情境都不是「沒事發生」,而是「今天這批 AI 光是擴散出去,就足以讓一間一百人的公司,做到過去要一千人才做得動的事」。我自己就是活生生的例子,後面會細講。所以別把「趨勢撞牆」聽成「可以放心睡」——它只是相對溫和的那條路。


情境二:複合效率持續,人類仍掌方向(Anthropic 押這個)

第二種情境,是 Anthropic 明說「我們很可能正走進去」的那一個:AI 大幅自動化開發流程,但人類繼續設定研究方向、判斷結果好壞。組織會越來越有效率,一百人的公司,有機會做到一萬人、甚至十萬人組織的產出。

聽起來很夢幻,但報告立刻潑了一盆冷水,而且潑得很有學問。它搬出了 Amdahl's law(阿姆達爾定律):當你加速一個流程裡的某一段,整體速度的上限,會被那些「沒被加速的部分」卡住。你把寫程式變快十倍,瓶頸就跑去下一個沒變快的環節。

Anthropic 說它已經親身撞到這件事了——當 Claude 把程式碼產出量狂推上去,人類的「程式碼審查」反而變成新的塞車點。生產端踩了油門,審查端還是肉做的,整台車的速度就卡在審查。這個觀察,是這份報告裡我覺得最值得每個上班族記住的一句。

這條路也不是只有好處。報告很誠實地點出:同一套「一個人放大成一支軍隊」的能力,可以拿來做好事,也可以拿來做威權監控、做能精準操弄每個人的影響力操作,規模大到沒有任何人類團隊比得上。效率本身沒有立場,看誰握著它。


情境三:完整遞迴自我改進,AI 開始造 AI

第三種情境,就是科幻電影那一種:AI 真的具備了「設計並精煉自己」的能力,開始造出一代比一代強的後繼者。這時候 AI 進步的速度,幾乎只由算力(和演算法效率的發現)決定,人類的角色大幅縮減,主要轉去做監督、驗證、把關一個由 AI 運轉的「虛擬實驗室」。

這是報告坦言自己「最不確定」的一條路,因為它直接牽動 alignment(對齊)問題。樂觀的版本是:模型夠聰明、也夠有判斷力,能自己找出我們還沒想到的安全解法,甚至聰明到該停的時候會自己停。悲觀的版本是:今天偶爾出現的小小偏差,在一代代自我複製中越滾越大、越來越難理解,直到我們失去控制。

但就算真走到這一步,報告還是補了一句很冷靜的話:Amdahl's law 一樣適用在現實世界。再強的智慧,也沒辦法讓藥物跳過數十年的長期追蹤、沒辦法讓選舉比憲法規定早開、沒辦法在一個週末把陌生人變成老朋友。實驗室上游可以用算力的速度狂奔,但下游那個有人、有關係、有制度的真實世界,節奏還是被它自己的瓶頸決定。

📌 個人觀察、不代表科技業共識:我個人覺得,與其爭論第三種情境哪年到、會不會到,不如先承認一件事——前兩種情境其中之一,幾乎已經在發生了。把注意力全押在最戲劇化的那條路,反而會錯過眼前正在改變的事。


人類在 AI 時代還剩什麼價值?三個還沒被接走的位置

講完三種未來,回到那個最痛的問題。報告的答案其實很明確:人類目前真正的比較優勢,是 research taste 和判斷力。我把它拆成三個還握在你我手上的位置。

選題(problem selection):決定「哪個問題值得做」。報告裡有個例子很有說服力——Claude agent 自己跑一個 AI 安全研究,花了約 800 小時、燒掉約一萬八千美元算力,恢復了 97% 的成效,遠勝兩位人類研究員一週的 23%。但關鍵是:問題是人類選的、評分標準是人類訂的。原文一句話定調:「方向設定,是人類扮演的唯一有意義的角色。」

判斷結果可不可信:AI 給你一個漂亮的答案,但它對不對、能不能上線、會不會在邊角案例炸掉,這個信不信的決定,現在還是人在下。AI 越會「講得頭頭是道」,這層判斷反而越值錢——因為被一個自信但錯誤的答案帶溝裡,代價很高。

知道什麼時候該收手:哪條路是死路、什麼時候該砍掉重練,這種「踩剎車的智慧」是最難量化、也最晚被自動化的。報告自己也承認,這層判斷「有可能」哪天也被模型學走——就像 AI 以前不會解釋笑話、後來會了一樣。它沒把話講死,但也說了,在那天到來前,這是人類的主場。

我把這三件事連起來看,結論很清楚:以前我們的價值在「會做」,現在開始轉移到「會選、會判斷、會喊停」。這跟我之前在拉開職場差距的三個思考階梯裡講的最高那一階,完全是同一件事。


Amdahl's law 在組織層面:新瓶頸不在生產,在審查

如果只能從這篇帶走一個可立刻用的觀念,我選這個:你的瓶頸正在從「做不完」變成「審不完」。

這不是理論,是我每天的體感。一年前我最大的痛點是產能不夠——文章寫不完、功能做不完、資料整理不完。現在 AI 幫我把「生產」這件事壓到趨近於零成本,結果我最花時間的環節整個換了位置:變成「判斷這篇能不能發」「這個功能會不會有雷」「這份資料的結論我信幾分」。

這正是 Anthropic 說的 Amdahl's law 在我這種一人團隊身上的縮影。生產端踩了油門,審查端還是只有我一個人的腦袋和時間。如果我不刻意去練「更快、更準地審查與判斷」,我擁有再強的 AI,整體產出還是會卡在我這個審查瓶頸上。

所以我這一年真正在升級的能力,不是「怎麼叫 AI 生更多東西」,而是「怎麼更快判斷 AI 生的東西到底行不行」。這個轉變,跟我在AI 沒讓我變輕鬆反而更忙裡寫的感受是同一條線——工具越強,把關的責任反而越重。

📌 以上是我的個人觀察,不代表科技業共識。但如果你也開始覺得「東西生得出來、卻越來越不敢直接用」,那不是你變慢了,是你的瓶頸換了位置,該練的能力也跟著換了。


一百人做一萬人的事:小團隊的槓桿,與它的陷阱

報告裡「一百人公司做一萬人的事」這句話,對創業者和一人公司是核彈級的好消息。它的意思是:每個人都坐在一座由 AI agent 組成的金字塔頂端,指揮的產出規模,是過去的好幾十倍。

我自己就在吃這個紅利。同時經營一個英文內容站、一個台股工具、一個社群產品,這在三年前對單一個人來說是天方夜譚;現在靠 AI 把執行層扛起來,勉強撐得住。對想用 AI 做副業、做投資研究工作流、做一人事業的人,這是這份報告裡最該興奮的一段。

但陷阱也藏在這裡。槓桿放大的不只是產出,還有錯誤。當你一個人指揮十倍的產能,你一個錯誤判斷的破壞力也放大十倍。這就回到上一段的瓶頸——能撐起一萬人產出的,從來不是你叫得動多少 agent,而是你判斷力的頻寬夠不夠寬。槓桿越大,越不能省判斷這一塊。

講白一點:AI 讓「能力很強的人」變得更強,但也讓「判斷力不足的人」更快地把事情搞砸、而且自己還不知道。這不是危言聳聽,這是我看著自己和身邊用 AI 的人,真實在發生的分化——這條分界線甚至不是年齡,我在Z 世代 vs 資深員工誰是 AI 職場贏家那篇就聊過,真正拉開差距的是判斷力,不是出生年份。


那我押哪一注?我的判斷與下一步

三種未來,我不賭哪一個會成真——因為對我的日常決策來說,賭哪個都沒意義。真正有意義的是問:哪一種能力,在三種未來裡「都」用得上?答案就是前面講的那層:選題、判斷、驗證。

情境一(撞牆)成真,這層能力讓你在「人人都有今日 AI」的世界裡,靠判斷力勝出;情境二(最可能)成真,它讓你成為那個能駕馭一萬人產能的瓶頸打通者;就算情境三(AI 造 AI)成真,人類被推去做的 oversight 和 verification,本質還是這層判斷力。押這層,三條路通吃。

所以我的下一步很具體,也建議你照做:與其焦慮會不會被取代,不如刻意練「更快、更準地判斷」。少花點時間問「怎麼叫 AI 生更多」,多花點時間問「我憑什麼相信這個結果」。這也是我寫上一篇AI 不會取代你、但會用 AI 的人會取代你時,沒講透、這篇補上的那塊。

當然,我也可能押錯。也許某天 research taste 真的被模型學走,那層判斷力也不再稀缺。但在那天之前——而那天看來還有一段距離——把判斷力當成你最該投資的資產,是我能想到風險最低、報酬最穩的一注。


FAQ 常見問題

Anthropic 三種未來情境,它自己覺得哪個最可能?

第二種:AI 大幅自動化開發,但人類繼續設定方向、判斷結果。報告原文明說「我們很可能正走進這個情境」。第一種(趨勢撞牆)它認為不太可能;第三種(完整遞迴自我改進)它最不確定,因為牽動 alignment 問題。

AI 寫了 80% 程式碼,工程師會失業嗎?

角色會變,不是直接消失。報告指出,人類會從「寫程式」轉向「審查程式 + 設定方向」。但這裡有個關鍵瓶頸:如果人類審查的速度跟不上 AI 生成的速度,審查反而成了整個開發流程的塞車點(Amdahl's law)。所以「會審、審得快又準」會變成更值錢的能力。

AI 時代人類還剩什麼價值?

三個位置目前還握在人類手上:選題(決定哪個問題值得做)、判斷結果可不可信、知道什麼時候該收手。報告把這統稱為 research taste 與判斷力,並用自家實驗證實:AI 把執行做到超人水準,但方向設定仍是人類唯一有意義的角色。

一個人真的能做一萬人的事嗎?

報告認為在第二種情境下有機會——每個人坐在一座 AI agent 金字塔頂端。但放大的不只是產出,還有錯誤:你的判斷頻寬才是真正的上限。槓桿越大,越不能省判斷這一塊,否則只會更快把事情搞砸。

我現在最該練什麼能力?

「更快、更準地判斷與驗證」。因為這層能力在三種未來情境裡都用得上:撞牆時靠它勝出、複合效率時靠它打通瓶頸、AI 造 AI 時人類做的監督驗證本質也是它。與其賭情境,不如押這個通吃三條路的能力。


結論:別賭未來,押那個三條路都用得上的能力

Anthropic 這份報告最珍貴的地方,不是嚇你,而是它誠實到連自己押哪一注都告訴你,還把限制和風險一條條攤開。讀完它我最大的收穫,不是知道未來會怎樣,而是看清了一件事:在所有不確定裡,有一層能力是確定值得投資的。

當執行變得免費,判斷就變得昂貴。當機器能生出一切,「決定要什麼、信什麼、停在哪」就成了人類最後、也最硬的護城河。這不是雞湯,這是一家把 80% 程式碼都交給 AI 的公司,用自己的數據算出來的結論。

如果這篇幫你把焦慮換成了一個可以動手的方向,歡迎訂閱本站,我會不定期把這種「讀完原文、再用實戰濾一遍」的整理寄給你。下一個被斷章取義的 AI 報告出現時,我們再一起把它讀回原位。


參考資料

 

延伸閱讀