ASI 的基本極限

資料來源#

• From AGI to ASI

摘要#

《From AGI to ASI》報告一再提醒我們：ASI 既非無所不知，也非無所不能。無論能力多強，它都受制於嚴格限制——其中許多限制早已充分理解。微妙而重要的關鍵（報告表 2）在於：這些限制大多是最壞情況下的負面結果，在實務上「空泛」，因為近似解和啟發式方法往往能以遠低於最壞情況計算量界限的成本，達到出色表現。因此，它們很少能告訴我們某項具體能力（治癒老化、核融合、模擬大腦）是否可行。

嚴格限制一覽（表 2）#

• 基本物理定律 — 光速（資訊傳播的極限）；Landauer 原理（抹除一個位元所需的最低能量）；Bremermann 極限（單位質能的最大計算速度）；Bekenstein 界限（有限能量下，有限區域所能容納的最大資訊量）。
• 即時性 — 物理世界以即時方式運行。無法以足夠精度模擬的實驗（天氣、生物體、經濟、社會）會受物理延遲限制；大型模擬需要時間（運算速度越快，所需時間越短，但不會歸零）。這正是具身瓶頸的起點。
• 物理操控 — 物理上的非通用性：並非每種邏輯上可能的物質配置，都能在有限空間與能量下實際實現（參見 Universal Constructor）。即便能實現，也需要時間，並消耗能量與資源來建造。
• 無知、可觀測性與可控性 — 認知上的不確定性與有限精度的測量，會限制預測與控制能力。
• 複雜度理論 — P vs NP vs PSPACE 等。實際可計算性的界限同樣適用於 ASI（不過這些界限往往針對最壞情況，而且通常有更好的近似解可用）。
• 邏輯 — Gödel 不完備定理與 Halting Problem：客觀上能回答或知曉之事的限制。（這些也限制了可證明為最優的自我修改——參見智能爆炸動力學中的 Schmidhuber Gödel machines。）

為何難以利用這些限制進行預測#

預測 ASI 做不到什麼，比看起來困難。兩種做法都不理想：

• 從現況外推，不久便會變得極不確定。
• 理論大多只能得出空泛的否定結論：「ASI 無法下出可證明完美的棋」（窮舉搜尋整個博弈樹的成本高得難以負擔）雖然正確，卻無關緊要，因為以啟發式方法下出近乎完美的棋，成本很低。我們真正需要的是關於那些既困難、又不存在良好近似解的問題之定理——而目前的理論在這方面，遠不如對困難度界限的理論成熟。

更棘手的是，是否存在良好的近似解（以及近似得多好、成本多高），本身可能就是計算上不可化約的——只能從最短的候選程式開始逐一執行，才能證明。報告以有損壓縮的 Kolmogorov 結構函數說明此點：大多數字串都不可壓縮（必須記憶）；對於可壓縮的字串，事先無法預測低於最小長度的有損壓縮能有多好，只能透過執行程式來發現。由於壓縮 ≡ 預測，Universal AI（以及延伸而言的 ASI）也承襲了這種對自身近似效能的不確定性。

結論#

能力預測必須以實證為先、理論為輔——採用 scaling laws 和基準測試串接，而非純粹推演（參見 Effective Compute Scaling 以及 AGI-to-ASI Pathways 的預測議程）。嚴格限制劃定外圍界線，但無法描繪實際地圖。

相關連結#

• Artificial Superintelligence (ASI) — 本文佐證「既非無所不知，也非無所不能」的主張
• Universal AI (AIXI) — AIXI 將資料效率的限制形式化，也承襲了有損壓縮結果所揭示的不確定性
• The Abstraction Barrier — 具身瓶頸是將「即時／物理操控」限制套用於遞迴改進
• Intelligence Explosion Dynamics — 物理與即時性限制，構成原本可能爆炸式增長的自我改進迴圈之邊界
• Effective Compute Scaling — 說明預測為何必須以實證為先：理論只能提供空泛的否定結論

開放問題#

• 我們能否為「困難且不可近似」的問題類別發展理論——這是唯一具有實際意義的否定結論？
• AGI/ASI 系統的基本極限與實際能力上限之間，還有多大的差距？

資料來源#

• From AGI to ASI — 第 3 節，表 2（「ASI 的基本限制」）；第 6 節（「是否可能預測 ASI 能做與不能做的事？」）