ASI 的根本限制

資料來源#

• From AGI to ASI

摘要#

From AGI to ASI 報告 中一項反覆出現的重要修正是：ASI 既非全知，也非全能。無論能力多強，它都受制於嚴格的限制——其中許多限制已經相當透徹地被理解。報告第 2 表揭示了一個微妙而重要的要點：這些限制大多是最壞情況下的否定性結果，在實務上往往「空泛」，因為近似解與啟發式方法經常能以遠低於最壞情況計算量的成本，達到極佳的效能。因此，它們很少能告訴我們某項具體能力（治癒老化、實現核融合、模擬大腦）是否可行。

嚴格限制的分類（第 2 表）#

• 基礎物理——光速（資訊傳播限制）；Landauer's principle（抹除一個位元所需的最低能量）；Bremermann's limit（單位質能的最大計算速度）；Bekenstein bound（有限能量的有限區域內可容納的最大資訊量）。
• 即時性——物理世界以即時方式運行。無法以足夠精度模擬的實驗（天氣、生物體、經濟、社會）會受到物理延遲所限制；大型模擬需要時間（更快的運算能縮短時間，但不會讓時間歸零）。這是具身瓶頸的起點。
• 物理操作——物理上的非普遍性：並非每一種邏輯上可能的物質組態，都能在有限空間／能量下實際實現（參見 Universal Constructor）。即使能實現，也需要時間，並消耗建造所需的能量／資源。
• 無知、可觀測性與可控性——認識論上的不確定性與有限精度的測量，會對可預測性與控制能力施加限制。
• 複雜度理論——P vs NP vs PSPACE 等。實際可計算性的界限同樣適用於 ASI（儘管通常是最壞情況的界限，而且在界限之下往往有優良的近似解）。
• 邏輯——Gödel's incompleteness 與 Halting Problem：能夠客觀回答或知道的事物存在限制。（這些也限制了可證明最優的自我修改——參見Intelligence Explosion Dynamics 下的 Schmidhuber's Gödel machines。）

為何這些限制難以用來預測#

預測 ASI 無法做到什麼，比看起來更困難。兩條路徑都令人失望：

• 從今日外推很快就會變得極度不確定。
• 理論主要產生空泛的否定性結論：「ASI 不可能下出可證明完美的西洋棋」（窮舉遊戲樹搜尋的成本高得令人望而卻步）雖然是真的，卻無關緊要，因為接近完美的啟發式下棋成本很低。我們真正需要的是關於那些既困難、又不容許良好近似的問題之定理——而目前的理論在這方面，遠不如對困難複雜度界限的理論強大。

更糟的是，優良近似是否存在（以及它有多好、成本是多少）本身可能就是計算上不可約的——只能從最短的程式開始，逐一執行候選程式來證明。報告以有損壓縮中的 Kolmogorov's structure function 為基礎說明這一點：大多數字串都不可壓縮（必須記憶）；對於可壓縮的字串，一個低於最小長度的有損壓縮能做到多好，無法事先預測，只能透過執行程式來發現。由於壓縮 ≡ 預測，Universal AI（以及由此延伸的 ASI）會繼承這種對自身近似效能的不可預測性。

結論#

能力預測必須是以實證為先、理論為輔——依靠擴展定律與基準測試串接，而不是純粹演繹（參見有效計算量擴展與AGI-to-ASI Pathways的預測議程）。嚴格限制劃出的是外圍邊界；它們不會繪製出實務地圖。

相關連結#

• Artificial Superintelligence (ASI)——本頁所闡述「既非全知，也非全能」主張的來源
• Universal AI (AIXI)——AIXI 將資料效率的限制形式化，並繼承有損壓縮不可預測性的結果
• The Abstraction Barrier——具身瓶頸是將「即時性／物理操作」限制套用到遞迴改進上的結果
• Intelligence Explosion Dynamics——物理／即時性限制界定了原本可能爆炸式增長的自我改進迴圈
• Effective Compute Scaling——預測為何必須以實證為先：理論只能提供空泛的否定性結論

開放問題#

• 我們能否為「既困難、又不可近似」的問題類別建立理論——也就是唯一具有實務意義的否定性結果？
• 這些根本限制與 AGI／ASI 系統的實際上限之間，究竟存在多大的餘裕？

資料來源#

• From AGI to ASI——第 3 節、第 2 表（「Fundamental limitations of ASI」）；第 6 節（「Is it possible to predict what ASI can and cannot do?」）