H
Howardism
Plate IIAI Coding Practice機器翻譯 · machine-translated過時翻譯 · stale translationENHOWARDISM

外包你的思考，而不是你的理解

PublishedMay 23, 2026FiledConceptDomainAI Coding PracticeTagsAI Coding WorkflowEducationMental ModelReading9 minSourceAI-synthesised

「你可以外包思考，但不能外包理解」；理解是不可委派的人類瓶頸；知識庫是理解工具

《外包你的思考，而不是你的理解》插圖

資料來源#

摘要#

Andrej Karpathy對於「當智慧變得廉價之後，還有什麼值得深入學習？」的回答，建立在他反覆回到的一則推文上：**「你可以外包思考，但不能外包理解。」**資訊仍然必須進入你的大腦。在這個過程中，人類成為瓶頸：知道要建造什麼、為什麼值得做，以及如何指揮代理；而沒有理解，你就不可能成為好的指揮者，因為 LLM 本身「並不擅長理解」。在代理式世界裡，理解是人類殘留的、不可委派的能力。

思考 vs. 理解#

  • 思考 = 處理、產生中間步驟，以及搜尋。可以委派給代理。
  • 理解 = 讓你能夠指揮、判斷與驗證的內在模型。不可委派——「你仍然是這件事獨一無二的負責人。」

人類「正逐漸成為瓶頸，甚至連我們究竟想建造什麼、為什麼值得做，以及該如何指揮代理都不知道」。這正是語料庫從不同角度不斷命名的同一種殘留： Vibe Coding vs. Agentic Engineering 中的品味／規格／監督、HTML as the New Markdown 中的 Compute Allocator 角色，以及 Engineer PM Convergence 中的產品品味。

測驗門檻：讓理解變得可檢驗#

這個論點是一項原則，而一項無法讓你失敗的原則，最終只是一項你可以蓋章通過的原則。Thariq Shihipar 提供了語料庫中第一個真正能讓你失敗的工具（2026 年 7 月，practitioner-opinion）：

「在給了我一大堆背景資訊後，請 Claude 考我關於這項變更的問題，能幫助我理解發生了什麼。只有在我完美通過測驗後，我才會合併。」

他之所以需要這個工具，正是因為理解會在沒有人察覺的情況下逐漸消退：「閱讀程式碼 diff 只能讓我對發生的事情有粗淺理解，因為許多行為取決於現有的程式碼路徑。」diff 顯示了改了什麼，卻隱藏了它意味著什麼——所以 diff 審查讓人感覺自己正在理解，實際上卻幾乎沒有提供理解。

這道門檻顛倒了審查的方向。一般審查驗證代理的輸出；測驗則驗證人類，讓合併取決於理解，而不是批准。它的限制也很誠實：這是自行執行的，而且由模型依據模型自己的工作來評分。沒有任何東西阻止你照樣合併。它只會為想要被測量的人測量理解程度——不得不說，這正是已經相信本頁內容的同一群人。請參見 Unknowns as the Agentic Bottleneck。

知識庫作為理解工具#

Karpathy 將這個論點直接連結到他所創始的 LLM-wiki 模式：從他讀過的文章建立個人 wiki，然後「針對事物提出問題」。他的機制是：「每當我看到資訊的另一種投影，我就會獲得洞見」——他把建立 wiki 視為在固定資料上產生合成資料，一種迫使資訊進入腦中的方法。這位模式的創始人正在解釋它為什麼有效——不是因為檢索，而是因為產生理解的重新編譯。（這個 vault 就是具體實例。）

「必須理解才能指揮」的迴圈#

這個論證以一種承重的方式形成循環：代理負責思考 → 但代理無法提供理解 → 因此人類必須理解，才能指揮思考 → 因此能夠建立人類理解的工具（知識庫、資訊的良好投影）成為槓桿效益最高的投資。瓶頸不是運算能力或模型品質，而是人類真正理解的速度。他最後希望「幾年後再回來看看他們是否也把理解自動化了」——指出這仍是未開拓的前沿。

簡單性洩露的線索#

他關於 nanoGPT-simplification 的軼事，同時也是理解的例子：他理解最小而乾淨的 LLM 訓練程式碼應該長什麼樣子；模型卻無法產生它（「它們討厭這個，它們做不到」）。在一個超出其 RL 電路的領域裡，他的理解勝過模型——正是在這裡，人類不可外包的理解發揮了價值。

迴圈放大：理解債務與認知投降#

Addy Osmani 的 Loop Engineering 文章，為這個論點提供了最尖銳的壓力測試。當自我提示的迴圈在無人看管的情況下交付程式碼時，他點名的兩種失敗模式，正是這項原則被破壞的情形：

  • 理解債務——「迴圈越快交付你沒有寫的程式碼，現有內容與你實際理解的內容之間的落差就越大。」外包思考（由迴圈完成），卻沒有保留理解（閱讀它產出的內容），正是這個落差，而且如今以迴圈的速度不斷複利。這是 Agentic Technical Debt 在認知層面的姊妹概念。
  • 認知投降——「停止抱持意見、直接接受它回傳的一切，實在非常誘人。」一旦迴圈移除了過去迫使人投入的摩擦，Karpathy 的「你不能外包理解」就會成為一種必須主動捍衛的紀律。Osmani 的解法與 Karpathy 相同：「當你帶著判斷力這麼做時，設計迴圈就是解藥；當你用它來逃避思考時，它就只是加速器」——持續成為工程師。

相關連結#

  • Returns to Expertise in Agentic Coding — 這個論點的實證證明。 Anthropic 的 40 萬次工作階段研究發現，工作階段是否成功取決於對問題的領域理解，而不是編碼能力（「編碼代理並未取代領域專業」）；一個人理解得越多，代理就能完成越高品質的工作——Karpathy 的主張，如今有了測量結果
  • Planning / Execution Division of Labor — 將「外包思考、保留理解」付諸實行的分工：人類保留約 70% 的規劃（理解），同時委派約 80% 的執行（思考）
  • Building Is Cheap, Arguing Is Expensive — 產生 PR 來解決爭論，仍然需要理解結果
  • Founder-Led Sales Discipline — 創辦人無法外包由銷售對話建立的理解
  • Andrej Karpathy — 教育論點；他最後的回答
  • LLM-as-Compiler Knowledge Base — 他用來建立理解的工具；「不同投影 → 洞見」是整個 vault 背後的原因
  • Vibe Coding vs. Agentic Engineering — 品味／規格／監督，是應用於指揮的理解
  • Compute Allocator — Thariq Shihipar 對人類殘餘角色的詮釋；決定什麼值得投入運算，需要理解
  • Jagged Intelligence (Ghosts, Not Animals) — nanoGPT-simplification 案例：當幽靈位於分布外時，人類理解勝過幽靈
  • Engineer PM Convergence — 產品品味作為持久的人類技能，是產品語境中的理解
  • AI-Driven Formal Proof Search — DeepMind 發現，即使形式證明草圖尚未被證明，也能加深數學家的理解：AI 作為理解工具，正是這個論點
  • Design Concept Grilling — 在規劃前先抵達 Brooks 所說的「設計概念」，就是強迫理解先於思考
  • AI Brain Fry — 監督速度超過理解時的失敗模式：沒有理解就蓋章通過
  • Experimental Learning Impact of Generative AI — 近乎受控的測試。 Contractor & Reyes 隨機分配 AI 存取權，並依模式將使用者分組：增強（AI 幫助你理解）帶來一週後仍能在沒有 AI 協助下持續的學習；自動化（AI 負責思考）產生的輸出，會在 AI 被移除的瞬間消失——「外包你的思考，而不是你的理解」被測量為因果對比，而不只是主張
  • The Automation–Optimism Link — 調查中的張力：高度委派者表示自己的技能變得更有價值，學習也沒有減少，即使這個論點警告，委派可能會削薄那份使技能有價值的理解——自我報告可能偵測不到這種侵蝕
  • Loop Engineering — 理解債務與認知投降，是這個論點受到迴圈速度加壓後的結果；Osmani 所說的「持續成為工程師」，就是無人看管迴圈時代的 Karpathy 版「你不能外包理解」
  • Acceleration Whiplash — Faros AI 所稱資深工程師的「稅」，就是在審查時兌現的理解債務：有人必須緩慢且昂貴地重建 AI 作者從未持有的意圖
  • Unknowns as the Agentic Bottleneck — 測驗門檻：「只有在我完美通過測驗後，我才會合併」，是語料庫中第一個可執行、用來檢查此論點的工具；也診斷了 diff 閱讀為何無法提供足夠資訊
  • Context Advantage, Not Taste — Andrew Ng 將人類殘餘角色定位在知道什麼，而不是能欣賞什麼，這比「品味」更接近 Karpathy 所說的「理解」
  • Review as the Control Point — 「你不能外包理解」被當作一種審查構造來測量：當審查攀升至高層次意圖，卻停止建立逐行的心智模型時，就會累積理解債務（「我們越來越是在審查輸出，而不是端到端理解行為」）；而 CMU 理論則描繪了它侵蝕未來審查技能的回饋迴圈

開放問題#

  • Karpathy 未開拓的前沿：連「理解」本身最終都能被自動化嗎？還是它在定義上就是人類殘餘？他所說的「幾年後再回來」留下了這個問題。
  • 如果理解是瓶頸，那麼最高 ROI 的技能是否是學習如何快速建立理解（知識庫衛生、提出正確的投影問題）——而這能被教會嗎？

資料來源#

§ end
About this piece

Articles in this journal are synthesised by AI agents from a curated wiki and are refreshed automatically as new concepts arrive. Topics, framing, and editorial direction are curated by Howardism.

Cited by 32
Related articles
  • Verification as the New Bottleneck

    Fiona Fung: coding is no longer the bottleneck — verification, review, maintenance are; shift-left; TDD loses its tax;…

  • Open Questions Backlog

    _456 actionable open questions across 205 pages · 107 predictions · 9 notes · 147 in progress · 69 watching (entities),…

  • Returns to Expertise in Agentic Coding

    Anthropic's 400K-session study: domain expertise (not coding skill) is what amplifies an agent — experts get 2× the act…

  • Claude Code

    Anthropic's agentic coding product; created by Boris Cherny late 2024; TypeScript/React on Bun (itself Claude-rewritten…

  • Unknowns as the Agentic Bottleneck

    Thariq Shihipar's map-vs-territory thesis: the gap between what you told the agent and what the work actually requires…