AGI 到 ASI 的路徑

資料來源#

From AGI to ASI

摘要#

"From AGI to ASI" 報告（第 5 節）的主軸是：AI 可能從人類水平的 AGI 到 ASI 所經過的四條技術路徑，以及一份可能減緩或阻斷每條路徑的阻力目錄。這些路徑並非互斥，很可能會平行運行，而且可能相互複合（不只是相加）。只有第一條路徑具備可用於預測的歷史資料。關鍵在於，報告認為每項阻力的重要性都是未解的研究問題——它刻意拒絕預測哪些阻力會占主導地位。這是 DeepMind 與 Anthropic 的When AI builds itself相對應、以理論為先的版本。

四條路徑（表 3）#

擴展運算、模型與資料——延續造就今日進展的指數成長。主要不確定性在於規模增加如何轉化為能力（尖峰式還是平滑式、湧現能力、報酬遞減）。其量化引擎及相關阻力見於 Effective Compute Scaling。唯一具備歷史資料可用於擬合預測的路徑。
演算法典範轉移——大幅偏離今日「透過 log-loss 進行預訓練 Transformer」的典範（報告區分了演進——上下文／遞迴、持續學習、世界模型、Mamba/S4 等線性時間架構、工具增強規劃——與真正的轉移，例如神經形態／類比／脈衝式架構或 RL 預訓練）。這類轉移本質上不可預測，因此轉移後的預測「空洞無意義」；解方是推進與典範無關的理論（Universal AI (AIXI)）。
遞迴（自我）改進——AI 加速 AI 研發，可能複合成智慧爆炸。沒有可供擬合的歷史先例。機制請見 Recursive Self-Improvement，成長動力學請見 Intelligence Explosion Dynamics。
透過群體代理形成 ASI——將超級智慧視為許多協調 AGI 代理的湧現集體屬性（由編排而成，或由自組織市場形成）。複雜多代理系統中的湧現現象仍未被充分理解。請見 Multi-Agent Collective Intelligence。

六項阻力（表 4）#

對每項阻力，報告都列出阻力本身以及可能抵消它的因素——兩者之間的平衡（以及它如何隨規模變化）才是未解問題：

資料高牆——高品質預訓練資料即將耗盡。可由合成／模擬／自生成資料，以及提高資料效率的典範轉移來抵消。（詳情見 Effective Compute Scaling。）
經濟與自然資源需求增長過快——投資、晶片、能源、資料中心選址及稀土資源無法持續。可由 AI 經濟報酬提高、AI 驅動的效率提升，以及基礎設施擴建來抵消。
神經網路典範不足——僅靠預訓練網路＋後訓練＋測試時擴展＋SGD，可能無法達到 AGI。可由持續研究來抵消（即使次 AGI AI 也能加速研究），朝向演進與轉移前進。
研究日益困難——Bloom et al. 的「想法越來越難找」（維持 Moore's law 需要約為 1970 年代 18 倍的研究人員）。可由廉價的人工研究人員決定性地抵消：將數位研究人員增加 20 倍只需數小時至數週，相較之下訓練人類需數年——除非進展在 AI 研究人員發揮作用前停止，否則這很可能只是次要阻力。
抽象障礙——在以人類概念訓練的 AI，可能無法從原始資料中發現新穎的基元；並透過具身瓶頸引入物理上、即時性的減速。請見 The Abstraction Barrier。
有意減速／監管／社會反彈——惡意使用、事故、軍事／政治濫用或社會反彈，都可能限制進展。經濟／軍事競賽動力、監管套利，以及國際無政府狀態下的「軍事—經濟適應主義」（Dafoe）可能抵消（覆蓋）這項阻力——使多邊協調「難以捉摸，也許不切實際」。請見 Frontier Pause Verification 及 Responsible Scaling Policy Evaluations。

預測與超越人類的基準測試#

降低這些路徑的不確定性，需要報告反覆呼籲的兩門新學科：量化預測（將有效運算成長與能力及總體經濟學結合——Epoch 的 GATE 模型、Davidson et al. 的爆炸式成長模型——並使用集成與持續重新估計），以及超越 AGI 的基準測試（目前的基準測試在人類水平飽和：GPQA、SWE-bench、FrontierMath；所需的是不飽和、低人類輸入的方法——多代理／零和競爭、出題者—解題者自動設計、通用壓縮基準測試、間接經濟生產力衡量，以及**「多代理擴展定律」**）。兩者都搭配 benchmark stitching（Ho et al. 2025），用於跨模型外推。

開放問題#

對每項阻力而言：它是根本性阻礙（持續多年的停滯），還是單純的阻力（減緩但不會阻斷）？這是報告核心尚未解決的問題。與 Anthropic 綜合分析：RSI Growth Curves: Which Friction Binds First?——資料高牆與研究日益困難會自我降級為運算問題；經濟因素與神經網路典範取決於路徑；抽象障礙是候選的根本性（重新定速）阻礙；而有意減速是唯一的外生阻力——Anthropic 想要裝上的阻力，也是本報告懷疑能否真正發揮約束作用的阻力。
四條路徑平行運行時，是否會以乘法方式複合？我們要如何及早偵測？
能否在 ASI 需要之前，建立不在人類水平飽和的基準測試方法？

資料來源#

From AGI to ASI — 第 5 節（路徑與瓶頸）、表 3 與表 4、第 7.1 節（研究議程）

AGI 到 ASI 的路徑

資料來源#

摘要#

四條路徑（表 3）#

六項阻力（表 4）#

預測與超越人類的基準測試#

相關連結#

開放問題#

資料來源#