數位智慧的優勢

資料來源#

• From AGI to ASI

摘要#

"From AGI to ASI" 報告認為，AI 最具特色的事實是：我們知道它完整的演算法描述（也就是它的程式碼）。由這項單一事實，衍生出一系列超越生物智慧的優勢（表 1），而且這些優勢會隨著更多、更快的運算力而增強——也就是說，即使人類同樣能從硬體進步中受益，隨著硬體改善，人類與 AI 的能力差距仍會擴大。報告的 Summary Instructions 明確要求摘要撰寫者不要壓縮這份清單，因此本文完整保留。

六項優勢（表 1）#

1. 輸入／輸出速度——AI 能以日益提高的頻寬攝取並輸出資訊（現今的 LLM 能在幾秒內讀完多本書）；若與感測器／致動器結合，便意味著能以高頻寬與世界互動。
2. 內部處理速度——「思考」／推理可以透過運算力加速，無論是循序進行（深度）或平行進行（廣度）；即使報酬遞減，這仍是一項重要的擴展優勢。
3. 工作記憶容量與記憶能力——AI 的工作記憶大小以及讀寫頻寬，可能遠超人類；記憶網際網路大部分內容的能力已經獲得展示，而且很可能距離上限還很遠。
4. 基質獨立性——AI 可以從一台電腦移動到另一台電腦，甚至可能在執行期間完成（升級至更快／更高效的硬體）；也可以只將部分內容遷移到分散式異質硬體上。
5. 無損複製——複製的不只是原始碼（「DNA」），還包括記憶狀態（「一生的經驗」）；可以依需求備份、還原、生成、停止並恢復執行中的實例。
6. 高頻寬分享（學習）經驗——數位 I/O 串流可以儲存、分享並重播，以用於訓練；在同質實例之間，甚至可以分享原始學習訊號（平均梯度）。（注意：第三人稱觀察對於學習決策可能在因果上不足——Ortega et al. 2021。）

為什麼這讓 AI 顯得「異質」#

這些特性使 AI 脫離了形塑人類存在的各種限制：AI 的壽命不必繫於其基質；具身形式具有彈性（虛擬世界、機器人身體、分散式群體）；它能跨越遠超人類的時間／空間尺度運作（可為星際旅行而暫停）。關鍵在於，文化演化可以快得多——人類文化必須經過「低頻寬瓶頸」，需要以有損方式壓縮／解壓縮（教學、語言）；相較之下，AI 集體可以直接分享知識，甚至分享原始梯度。這指向了集體超級智慧，以及快速的文化／迷因自我改進。

一項值得注意的劣勢#

報告指出一項值得命名的不對稱性：按照 N. Lawrence 的「具身因子」（內部處理容量 ÷ I/O 速率），人類具有高具身因子——他們的溝通瓶頸迫使他們建立深層的內部模型與抽象層級。數位智慧擁有高頻寬 I/O，可能不需要（因而也不會獲得）這類粗粒度抽象——這可能成為抽象屏障的種子。類比運算原則上也可能更具能源效率。

相關連結#

• 人工超級智慧（ASI）——這些優勢正是報告認為進展不會停留在人類水準，以及人類對 ASI 的直覺會失效的原因
• 多代理集體智慧——無損複製與高頻寬經驗分享，使 AI「集體」能夠低成本地擴展並實現緊密協調
• 智慧爆炸動力學——高頻寬的迷因／文化演化，是超指數自我改進的一項引擎
• 抽象屏障——Lawrence 的低具身因子論證，是高頻寬 I/O 可能限制新概念形成的一種機制
• 有效運算擴展——這些優勢正是「隨運算力擴展」的那些優勢，因此更有效的運算力會拉大差距

開放問題#

• 以人類資料進行訓練，是否足以讓數位智慧獲得人類等級的抽象能力？還是低具身因子會限制概念形成？（這與抽象屏障共享同一個核心問題。）
• ASI「社會」實際上會是什麼樣子——同質的超級集體、市場生態，還是與運算力綁定的虛擬世界？

資料來源#

• From AGI to ASI——第 3 節，表 1（「數位智慧相較於生物智慧的優勢」）；Lawrence（2024）關於具身因子