智慧爆炸動力學

資料來源#

• From AGI to ASI
• Really Big Test-Time Compute in AI Changes Benchmarks, Safety and Research with OpenAI's Noam Brown

摘要#

遞迴自我改進指的是機制（AI 建造自己的後繼者），而通往 ASI 的路徑報告將其列為路徑 3；本頁則討論成長動力學——也就是曲線的形狀。"From AGI to ASI" 報告區分了三種狀態，並強調究竟是哪一種成立，目前仍缺乏理解，也沒有可供套合的歷史先例：

• 指數——固定的乘法成長率（例如每年約 10 倍的有效算力）。
• 雙曲線（超指數）——成長的速率本身會隨成長中的量增加；其特徵是有限時間內的無限成長——奇點。Solomonoff（1985）首次將此概念提出用於 AI 自我改進；它也是 Kurzweil 的「奇點」以及許多快速起飛情境的基礎（Good 1965 年的「智慧爆炸」、Bostrom、Chalmers、Davidson）。
• S 曲線——在自然的有限系統中，摩擦與邊界條件會在奇點出現之前使成長彎折向下。對 AI 研究自動化而言，「這些摩擦開始發揮作用的時間點尚不明確」。

回饋迴路#

如果 AI 加快 AI 研究，這項進展會帶來更快速／更有能力／數量更多的 AI，而後者又進一步加速研究——形成正回饋迴路。最戲劇性的動力學（可能是雙曲線）會在 AI 研究完全自動化時出現，但較弱的遞迴效應已經開始發生（例如「思考」模型策劃更好的訓練資料、神經架構搜尋、AI 輔助硬體設計）。報告的工作判斷是：認為數十萬到數百萬名人工研究者不會產生顯著影響，是一項強假設——因此，除非進展先行停滯，遞迴改進至少很可能會成為重要的加速因素。

四種機制（對應人類演化）#

報告將遞迴改進的不同形式對應到人類能力成長的引擎——AI 可能以快得多的速度運行每一種機制：

1. 遺傳（基因型 RSI）——改進「藍圖」：程式碼（架構、最佳化器、harness）與硬體設計。對人類而言很慢；對能自我修改的 AI 而言可能非常快速。
2. 文化（模因型 RSI）——改進智識產物：自動化資料集策展、合成資料、AlphaZero 式遞迴蒸餾、工具形成。人類文化演化推動了過去 50,000 年；鑑於產物的產生／分享／消費速度，AI 的文化演化可能快得多。
3. 合作（社會生成型 RSI）——分工：專業化釋放資源 → 更大的集體 → 進一步專業化。這需要合作；其對 AI 集體的作用尚不明確（今日的模型能透過提示立即專業化）。請參閱多代理集體智慧。
4. 資料——AI 為下一代策展／生成／模擬品質更高的資料集（AlphaZero 將蒸餾搜尋結果回灌至先驗的迴路）。從數十億使用者身上取得 test-time compute 回報的經濟壓力，使這一點具體可行。

形式障礙與抑制爆炸的因素#

• Schmidhuber 的 Gödel machines將可證明最優的自我修改形式化，但需要完整的自我知識，並受 Gödel 不完備性限制（請參閱ASI 的基本限制）。
• Christiano 的迭代放大——透過遞迴任務分解，在維持對齊的同時進行能力引導式提升。
• 物理與即時性煞車——即使是超越人類速度的數位研究者，也必須執行實驗並等待結果；任何需要實體操作的事情（更好的晶片、濕式實驗室驗證）都無法任意加速。這就是具身瓶頸，也是報告反對無界奇點的主要論點。遞迴迭代也往往會達到平台期（報酬遞減，參見 AlphaZero）或退化（以自我生成的資料進行訓練）。

報告整體的低信心判讀是：恰好在 AGI 出現硬性平台期的可能性不高；更可能的是 AGI 之前的平台期，或相對平滑的 AGI→弱 ASI 過渡——除非遞迴改進帶來戲劇性的加速；這種可能性「無法排除」，並會使過渡快速發生。

實務工作者的煞車：test-time compute 作為步調限制#

Noam Brown（OpenAI、practitioner-opinion）從機制層面提供了另一個反對雙曲線奇點的論點——它來自前沿實驗室內部，而不是理論。由於模型最強大的能力只有透過大規模的 test-time compute才能解鎖——而執行可能需要數週或數月——時間本身便成為約束條件。「事情之所以只能快到某個程度，是因為模型需要運行足夠長的時間，才能真正做出非常、非常強大的事情。」一夜之間發生的智慧爆炸（某項突破瞬間讓模型變得更聰明，並在片刻間層層級聯）之所以被排除，不是因為算力上限，而是因為算力必須消耗的時鐘時間。Brown 將現實形狀稱為「漸進式起飛」：RSI 加速可平行化的部分，並在無法平行化的部分遭遇瓶頸——這與遞迴自我改進未來情境中的 Amdahl's-law 結構相同——因此「隨著時間推移，我們遭遇瓶頸的事情會逐漸縮小」，但永遠不會瞬間完成。

這與報告自身從另一個方向提出的具身瓶頸（抽象障礙）相互呼應：DeepMind 認為實體實驗無法任意加速；Brown 則認為即使是純推理研究也無法任意加速，因為在能力前沿，推理本身有不可消除的持續時間。兩者最後都指向「由時間調節，而非瞬間發生」。

相關連結#

• 遞迴自我改進——機制；本頁是其成長動力學的補充（Anthropic 的 When AI builds itself 是姊妹來源）
• AGI 到 ASI 的路徑——遞迴改進是路徑 3；報告將其動力學視為最大的預測不確定性
• 有效算力擴展——算力的指數成長是遞迴迴路向上彎折的基底；資料型 RSI 與資料牆反制因素重疊
• 多代理集體智慧——合作／社會生成型 RSI 是集體專業化的複利
• 數位智慧的優勢——高頻寬的模因／文化演化（無損經驗分享）是超指數自我改進的一具引擎
• 抽象障礙——具身瓶頸將原本可能是雙曲線的迴路，轉變為由實證科學調節步調的迴路
• ASI 的基本限制——Gödel／物理／即時性限制是約束爆炸的因素
• AI 驅動的形式證明搜尋——FunSearch／AlphaEvolve 是具體的演算法自我改進（由 LLM 引導的程式搜尋，找出新穎的構造）
• 任務時間範圍擴展——使「曲線是否正在彎折？」能以經驗方式檢驗的趨勢線
• AI 驅動的 AI 研發自主性評估（AECI）——衡量 AI 研發自動化程度（Chan et al. 2026；Anthropic 的 AECI）是「遞迴改進擴展定律」所需的實證輸入
• 人工超級智慧（ASI）——AGI→ASI 過渡是平滑還是爆炸式，正是這些成長狀態所決定的問題
• 大規模 Test-Time Compute——Brown 對受時間瓶頸限制（漸進式而非雙曲線）起飛的機制：巔峰能力需要長時間推理執行，因此即使是純推理研究，時鐘時間仍構成限制
• Noam Brown——test-time compute 步調論點的實務來源
• 由程式碼輸出帶來的研究者提升——為成長問題提供勞動端係數：將 Kwa 的約 2.5 倍序列研究者提升代入 Greenblatt 的 R&D ≈ labor^0.55 × compute^0.45，目前可得約 1.77 倍的研發加速；而隨著算力每年增加三倍，兩項輸入都會呈指數成長——這是研究產出持續（而非停滯）提升的半內生案例

開放問題#

• 能否制定「遞迴改進擴展定律」——從早期出現的資料點預測自我改進曲線（及其平台期）？
• 僅靠 test-time search，一個固定模型的效能能被推到多高？在什麼條件下，遞迴蒸餾會退化，而非複利增長？
• 哪一項會最先形成限制——演算法上限、具身瓶頸，還是算力／能源供應——從而決定是指數、雙曲線還是 S 曲線？綜合結果：RSI 成長曲線：哪種摩擦最先形成限制？——本報告與 Anthropic 都認為，形成限制的因素位於認知之外（將迴路連接至現實的最慢、無法加速步驟）；具身瓶頸會重新調整步調而非使其停止，資料牆／更努力研究會降級為算力問題，而抽象障礙是唯一候選的根本性阻礙。

資料來源#

• From AGI to ASI——第 2 節（「Is the Singularity near?」）、第 5.3 節（遞迴自我改進、四種機制）、第 7.1 節（研究議程項目 4）
• Really Big Test-Time Compute in AI Changes Benchmarks, Safety and Research with OpenAI's Noam Brown——Noam Brown（No Priors，2026-06-26），practitioner-opinion：test-time compute 依賴使時間成為起飛瓶頸；「漸進式起飛」，沒有一夜之間的爆炸