數位智慧的優勢

資料來源#

From AGI to ASI

摘要#

《From AGI to ASI》報告指出，AI 最與眾不同之處在於：我們知道它完整的演算法描述（也就是它的程式碼）。單是這項事實，就帶來了相較於生物智慧的一系列優勢（表 1）；而且這些優勢會隨著運算能力增加、速度加快而更加顯著。這表示即使人類也能受益，硬體進步仍會讓人類與 AI 的能力差距持續擴大。報告的摘要指示明確要求摘要撰寫者不要壓縮這份清單，因此此處完整保留。

六項優勢（表 1）#

輸入／輸出速度——AI 能以愈來愈高的頻寬讀取和輸出資訊（當今的 LLM 幾秒內就能讀完多本書）；若連接感測器和致動器，便能以高頻寬與世界互動。
內部處理速度——「思考」／推理能藉由運算能力加速，可以循序進行（增加深度），也可以平行進行（增加廣度）；即使報酬遞減，這仍是重要的擴展優勢。
工作記憶容量與記憶能力——AI 的工作記憶大小及讀寫頻寬都可能遠超人類；它已展現出記住網路大量內容的能力，而且很可能離上限還很遠。
基質獨立性——AI 可以從一台電腦移至另一台，甚至可能在執行期間遷移（升級至更快或更有效率的硬體）；也可以只將部分內容遷移至分散式異質硬體上。
無損複製——不只複製原始碼（「DNA」），也能複製記憶狀態（「一生的經驗」）；可依需求備份、還原、生成、停止及恢復執行個體。
高頻寬分享（學習）經驗——數位 I/O 串流可儲存、分享並重播，用於訓練；同質執行個體之間，甚至可以分享原始學習訊號（平均後的梯度）。（但要注意：第三人稱觀察對於學習決策而言，可能在因果上並不足夠——Ortega et al. 2021。）

為何 AI 如此「異質」#

這些特性讓 AI 擺脫了形塑人類存在的限制：AI 的壽命不受其基質所限；具身形式彈性多樣（虛擬世界、機器人身體、分散式群體）；運作範圍涵蓋更廣的時間與空間尺度（可為星際旅行而暫停）。關鍵在於，文化演化可以快上許多——人類文化必須經過「低頻寬瓶頸」，以有損的方式壓縮與解壓縮資訊（教學、語言）；AI 群體則能直接分享知識，甚至原始梯度。這指向集體超級智慧，以及快速的文化／迷因自我改進。

一項值得注意的劣勢#

報告指出一種值得明說的不對稱：依據 N. Lawrence 的「具身因子」（內部處理能力 ÷ I/O 速率），人類的具身因子很高——溝通瓶頸迫使人類建立深層內在模型與抽象層級。數位智慧具備高頻寬 I/O，可能不需要這類粗粒度抽象，因此也可能無法形成它們——這或許是抽象屏障的萌芽。原則上，類比運算的能源效率也可能更高。

關聯主題#

人工超級智慧（ASI）——這些優勢正是報告認為進展不會停在人類水準，以及人類直覺為何無法理解 ASI 的原因
多代理集體智慧——無損複製加上高頻寬經驗分享，讓擴展 AI 集體的成本低廉，且能緊密協調
智慧爆發動態——高頻寬迷因／文化演化是超指數自我改進的一股動力
抽象屏障——Lawrence 對低具身因子的論點，說明高頻寬 I/O 可能如何限制新概念的形成
Effective Compute Scaling——這些優勢恰恰是「隨運算能力擴展」的特性，因此提升有效運算能力會拉大差距
Post-Scarcity Macroeconomics——一旦智慧擁有末端執行器，這些特性能帶來什麼：Musk 的機器人隊伍是一個大型模型驅動許多身體，因此無損複製和經驗分享讓「大量機器人」成為擴展規模的主張，而不是製造業的主張

開放問題#

以人類資料訓練，是否足以讓數位智慧具備人類等級的抽象能力？還是低具身因子會限制概念形成？（這是與抽象屏障共同面對的關鍵問題。）
ASI「社會」實際上會是什麼樣子——同質的超級集體、市場生態系，還是受運算資源限制的虛擬世界？

資料來源#

From AGI to ASI — 第 3 節，表 1（「數位智慧相較於生物智慧的優勢」）；Lawrence（2024）關於具身因子