AGI-to-ASI Pathways

資料來源#

• AI models have likely reached parity with superforecasters on ForecastBench
• From AGI to ASI

摘要#

「From AGI to ASI」報告（第 5 節）的主幹：AI 從人類水準的 AGI 邁向 ASI 可能採取的四條技術路徑，以及可能拖慢或阻斷各路徑的一系列摩擦。這些路徑彼此並不互斥，而且很可能平行發展，甚至可能產生複合效應（而不只是相加）。只有第一條路徑有歷史資料可用來進行預測。關鍵在於，報告的立場是：每項摩擦的重要性都是開放研究問題——報告刻意不預測哪些摩擦會占主導地位。這是 DeepMind 以理論為先的論述，與 Anthropic 的 When AI builds itself 相互呼應。

四條路徑（表 3）#

1. 擴大運算、模型與資料規模——延續帶來當前進展的指數成長。主要的不確定性在於規模擴大如何轉化為能力（突增還是平滑成長、湧現能力、報酬遞減）。量化引擎及其摩擦詳見 Effective Compute Scaling。這是唯一有歷史資料可用來擬合預測的路徑。
2. 演算法典範轉移——大幅偏離當前以預訓練 Transformer 搭配對數損失為核心的典範（報告區分了演進——脈絡／遞迴、持續學習、世界模型、Mamba/S4 等線性時間架構、工具增強規劃——以及神經形態／類比／脈衝式運算或 RL 預訓練等真正的轉移）。這類變化本質上難以預測，因此在典範轉移之後的預測會「空洞無物」；解方是推進典範無關的理論（Universal AI (AIXI)）。
3. 遞迴（自我）改進——AI 加速 AI 研發，並可能因此複合成一場智慧爆炸。沒有歷史先例可供擬合。機制詳見 Recursive Self-Improvement，成長動態詳見 Intelligence Explosion Dynamics。
4. 透過群體代理程式形成 ASI——將超級智慧視為許多協調運作的 AGI 代理程式所形成的湧現集體屬性（由系統編排，或自組織成市場）。我們對複雜多代理程式系統中的湧現現象仍了解甚少。詳見 Multi-Agent Collective Intelligence。

六項摩擦（表 4）#

對每項摩擦，報告都列出摩擦本身，以及可能抵消它的因素——兩者間的平衡如何變化，以及這種平衡如何隨規模改變，都是開放問題：

• 資料壁壘——高品質預訓練資料耗盡。合成、模擬、自行生成的資料，以及提升資料效率的典範轉移，都可能抵消此摩擦。（詳見 Effective Compute Scaling。）
• 經濟與自然資源需求成長過快——投資、晶片、能源、資料中心選址、稀土等需求難以持續。AI 經濟報酬提高、AI 帶動效率提升，以及基礎設施擴建，都可能抵消此摩擦。
• 神經網路典範不足——AGI 可能無法透過預訓練網路、後訓練、測試時擴展與 SGD 達成。持續研究（即使次 AGI 的 AI 也能加速研究），朝向各類演進與典範轉移，都可能抵消此摩擦。
• 研究難度增加——Bloom 等人提出的「想法愈來愈難找」（若要維持摩爾定律，研究人員數量須比 1970 年代多約 18 倍）。低成本人工研究人員能有力抵消此摩擦：數位研究人員增加 20 倍只需數小時至數週，人類研究人員則須耗費數年培訓——除非在 AI 研究人員派上用場前進展就停滯，否則這很可能只是輕微摩擦。
• 抽象障礙——以人類概念訓練的 AI 可能無法從原始資料中發現新穎的基礎概念；透過具身瓶頸造成實體環境中的即時減速。即使障礙尚未解決，也有抵消方式：即便它將任何單一系統的能力封頂在接近人類水準，持續擴大規模並形成群體代理程式，仍可能讓集體能力超越 AGI——因此，表中提出的抵消途徑其實是把阻礙轉入第 4 條路徑，而非將其消除；報告指出，直接處理此問題需要典範轉移（互動式學習與 RL）。詳見 The Abstraction Barrier。
• 刻意放慢／監管／社會反彈——惡意使用、意外事件、軍事或政治濫用，或社會反彈，都可能限制進展。經濟與軍事競賽動態、監管套利，以及國際無政府狀態下的「軍事—經濟適應主義」（Dafoe）都可能抵銷（或壓過）此摩擦，使多邊協調變得「難以實現，或許不切實際」。詳見 Frontier Pause Verification 與 Responsible Scaling Policy Evaluations。

預測與超越人類的基準測試#

若要降低對這些路徑的不確定性，報告一再呼籲發展兩項新領域：量化預測（將有效運算成長與能力及總體經濟學連結——例如 Epoch 的 GATE 模型、Davidson 等人的爆發性成長模型——並採用集成預測和持續重新估計）以及超越 AGI 的基準測試（現有基準測試在人類水準便會飽和：GPQA、SWE-bench、FrontierMath；我們需要不會飽和、且少需人類投入的方法——多代理程式／零和競賽、自動設計出題者—解題者、通用壓縮基準測試、間接經濟生產力指標，以及**「多代理程式擴展定律」**）。兩者都搭配 benchmark stitching（Ho 等人，2025 年），以利跨模型外推。

延伸閱讀#

• Artificial Superintelligence (ASI) — 這些路徑通往的終點；提供 AGI／ASI 的特徵描述

• Effective Compute Scaling — 第 1 條路徑的量化引擎，以及資料壁壘／經濟摩擦

• Recursive Self-Improvement — 第 3 條路徑的機制（Anthropic 的論述）；DeepMind 報告是以理論為先的同類作品

• Intelligence Explosion Dynamics — 第 3 條路徑的迴圈若以超指數方式複合，會發生什麼事

• Multi-Agent Collective Intelligence — 完整探討第 4 條路徑

• The Abstraction Barrier — 最可能成為根本性（而不只是拖慢進展）阻礙的摩擦

• Universal AI (AIXI) — 不依賴特定典範的理論，用來因應第 2 條路徑的不可預測性

• Frontier Pause Verification — 將刻意放慢這項摩擦轉化為治理研究議程

• Responsible Scaling Policy Evaluations — 制度化的關卡（評估、許可、事件通報）是這項減速摩擦在實務上的表現

• Task Time-Horizon Scaling — 為預測議程提供具體能力趨勢線

• Fundamental Limits of ASI — 每條路徑都受其限制；說明能力預測為何必須以實證為先，而不能只靠推演

• The Data Wall and the Validation Commons Are One Supply Constraint — 對摩擦清單第一項的修訂。語料庫的測量結果（CS329A 自我訓練結果，彙整於 2026-08）不支持將資料壁壘降格為運算問題：合成資料供應受限於是否有驗證器、執行速度，以及生成器能否維持多樣性——因此這項摩擦併入驗證／監督摩擦，而非消失。這是收緊六項清單，而不是增加一項

• Measuring Beyond Accuracy Saturation — 本文提出的基準測試問題在此首次有了具體案例：這項基準測試的分數不會飽和，但比較能力會飽和，因為其標題所依據的正是人類參照組

• Safety Commitments That Cannot Bind the Actor Who States Them — 報告承認卻未列入的第七項摩擦——對齊困難會直接阻礙自動化研發——它會轉化為已列首位的驗證摩擦，並特別限制第 3 條路徑

開放問題#

• 對每項摩擦而言，它究竟是根本性阻礙（持續多年停滯），還是單純的摩擦（拖慢進展，但不會使其停止）？這是報告核心的未解問題。部分已有答案（綜合 Anthropic 的觀點）：RSI Growth Curves: Which Friction Binds First?——資料壁壘與研究難度增加會自行降格為運算問題；經濟因素與神經網路典範則取決於路徑；抽象障礙是可能的根本性（改變發展節奏）阻礙；刻意放慢則是唯一的外生摩擦——Anthropic 想要設置的那一項，而本報告懷疑它能否真正發揮約束力。2026-08-10 將標籤由 #oq/now 改為 #oq/source：現有頁面的綜合分析已完成，剩下的是 DeepMind 自己稱為「開放研究問題」的權重判斷——需要外部證據，而不是再跑一次 /query。
• 四條路徑平行運作時，會否產生乘法複合效應？我們又該如何及早察覺？
• 能否在人們需要超級智慧之前，建立一套不會在人類水準飽和的基準測試方法？部分已有答案（2026-08-12）——語料庫現在有了案例，而問題可以拆成兩部分。ForecastBench 在提問者可能原本想表達的所有層面上，都不會飽和：真實答案出現在問題提出之後，因此不可能發生資料汙染；題目供應會從即時市場和時間序列自動更新；其 Brier 類型分數除了受世界自身雜訊限制外沒有上限；參照組是頂尖超級預測者，而非一般人類。AI 提交的預測在 2026 年 7 月達到該參照組水準。但它仍無法在此水準上繼續區分：排行榜會針對「超級預測者勝過模型」和「模型勝過大眾」給出顯著性判定，卻沒有反向比較的欄位；其人類基準則是將 2024 年的誘發結果外推至未來。因此，可建立的是任務類型；尚未解決的是錨點，而目前唯一有人提出的補救方式是定期重新誘發人類預測，但這種方式在原理上無法應用於超級智慧情境。完整分析見 Measuring Beyond Accuracy Saturation。保留 #oq/wait：人類無涉的錨點能否在需要之前出現，仍是對未來的主張。

資料來源#

• From AGI to ASI — 第 5 節（路徑與瓶頸）、表 3 與表 4、第 7.1 節（研究議程）。表格解析警告，依本文慣例：PDF 文字擷取結果逐行交錯了表 4 的「描述」與「抵消因素」欄，出現在兩列（資料壁壘、抽象障礙）中——儲存格文字在字中途連在一起（Synthetic data, high-fidelity simulaRunning out of sufficient…）。我們根據 §5.5 的文字逐項釐清，該節詳述了每項摩擦及其抵消因素；內容沒有遺漏，只有欄位對應資訊遺失。抽象障礙的抵消因素是在 2026-08-19 的 lint 檢查中重建，此前它是六項中唯一在此缺漏的一項
• AI models have likely reached parity with superforecasters on ForecastBench — Forecasting Research Institute（Substack，2026-07-16，empirical）：本文只在討論不會飽和的基準測試問題時引用此來源。排行榜是 PNG 螢幕截圖，依圖片雙重檢視規則放大重讀；單向顯著性判定是從欄標題而非內文讀取