H
Howardism
Plate IISuperintelligence Trajectory機器翻譯 · machine-translated過時翻譯 · stale translationENHOWARDISM

多代理程式集體智慧

PublishedJune 15, 2026FiledConceptDomainSuperintelligence TrajectoryTagsGovernance WorkforceMulti AgentGroup AgencyAsiScalingReading7 minSourceAI-synthesised

DeepMind 通往 ASI 的第四條路徑：超級智慧作為許多協調 AGI 代理程式的湧現屬性——包括代理程式群組、虛擬代理程式經濟，以及由中央引導的超級集體——由人們所期盼的「多代理程式擴展定律」治理，而核心未解問題是：同質 LLM 集體何時才真正超越其組成部分之和

多代理程式集體智慧的插圖

資料來源#

摘要#

From AGI to ASI 報告中的第四條通往 ASI 的路徑：不是任何單一模型變得超級智慧，而是ASI 作為許多協調 AGI 代理程式的集體屬性湧現——類似於人類的一般智慧如何聚合成為超級智慧的機構、企業與市場。這條路徑不同於單純的擴展，因為問題不在模型大小，而在於組織方式：人類水準的代理程式群體如何集體變得超越人類。這是報告對「即使個別模型在 AGI 停滯，總體能力是否仍會持續上升？」的回答——報告傾向認為，這正是進展可能不會停在人類水準的原因。

為何集體能超越其成員#

對人類組織而言，集體智慧建立在報告延伸到 AI 的兩項因素上：

  • 平行化——克服個體頻寬與認知資源的限制。
  • 透過專業化實現多樣性——產生同質群體無法達成的協同效應。

AI 集體具有人類所缺乏的結構性優勢（數位智慧的優勢）：它們可以立即成長（啟動更多執行個體）、以極高頻寬高效引導，並且以遠為緊密的方式協調。某種字面意義上的「AGI 執行長」可以同時與每位員工交談，壓縮低人類溝通頻寬所迫使組織採用的深層階層，從而減輕官僚摩擦。

組織形式#

  • 群組代理程式——借鑑 List & Pettit 的群體代理理論，AGI 代理程式可以形成連貫的「群組代理程式」（例如全自動化企業），其表徵狀態／動機狀態不同於其組成成員，解決超越任何單一 AGI 的問題。
  • 去中心化：虛擬代理程式經濟——AI 服務市場中的局部激勵決策，透過價格訊號聚合成更高階的智慧（Tomašev et al.）；ASI 從超加速的經濟中湧現，而不是來自刻意設計的架構（Drexler 的「comprehensive AI services」）。
  • 中心化：控制論超級集體——基礎代理程式的複本／執行個體以高頻寬溝通，並針對結果進行協調，再透過更集中的規劃加以引導。（報告指出，現有人類機構——官僚體系、市場——本身就是某種「人工」智慧，依據 Danzig 的觀點。）

報告的立場是：有趣的問題不是哪一種組織原則會「勝出」，而是哪些形式會在什麼情境下出現，以及如何透過機制設計與複雜系統洞見來影響它們。

多代理程式擴展定律#

這條路徑的核心量化希望是：在計算量的條件限制下，能力可能隨著代理程式群體規模與互動密度擴展——「多代理程式擴展定律」在群體大小／複雜度／速度上可能呈線性或超線性增長。這直接連結到超越人類的基準測試議程，因為衡量群體智慧如何擴展，是 ASI 基準測試中兩項最突出的未解挑戰之一。它也與協作／社會生成式遞迴改進重疊——專業化釋放資源，進一步促成專業化。

實務工作者的觀點：模型尚未累積知識#

Noam Brown（OpenAI，practitioner-opinion）將當今多代理程式腳手架與這條路徑的願景之間的差距，界定為知識累積問題，而非協調機制問題。他的文明類比是：人類並不比 50,000 年前更聰明——「長久以來有數十億人思考，並在彼此累積的知識上持續建立」，這是一種「有機、湧現的屬性」，而非設計出來的腳手架。當今模型缺乏這一點：它們「降生於一個世界，在極短的上下文視窗中存在，然後就消失」，只有有限的方法能讓知識延續下去。他認為早期的代理程式社會實驗（他提到「Moltbook 與 OpenClaw」）受到過度炒作，但確實顯示大規模協調可能發展的方向——「最終我們會抵達那樣的世界」，模型「在更全球化的層次分享知識，並以有成效的方式建立在知識之上」。這就是從實務工作者角度提出的迷因／文化遞迴改進引擎：缺少的不是更多執行個體，而是讓跨世代知識複利累積的基礎層。他也認為，真實規模的多代理程式「需要 frontier models」才能解鎖——這與他更廣泛的測試時期計算論點一致：有趣的能力位於高預算區間。

棘手的未解問題#

  • 同質 LLM 集體（即使使用不同提示／上下文）是否會產生真正的協同效應，或者增益主要是人類造成的假象（人類專業化緩慢；foundation models 可以透過提示／微調立即專業化，因此分工對 AI 的重要性可能較低）。
  • 群體在哪些任務類別上能勝過個體（可平行化的任務相對於純序列任務），以及這如何取決於組織形式。
  • 群體對齊——引導大型集體（明確地引導，或透過市場機制設計引導）；使其抵禦認識論劫持以及虛假資訊／幻覺／自我妄想的擴散；確保具備大型智慧／頻寬不對稱的人類—AI 混合集體具有認識論韌性；並建立擅長與人類合作的超級智慧（相對於「唯我論式超級智慧」）。

相關連結#

  • AGI 至 ASI 的路徑——這是第 4 條路徑；通往 ASI 的四條平行路徑之一
  • 人工超級智慧（ASI）——報告設定的高標準（超越專家集體），以及「單一 ASI 可能是數百萬個執行個體的集體」這兩點都在此處
  • 數位智慧的優勢——無損複製與高頻寬協調，使 AI 集體能低成本擴展並受到緊密引導
  • 有效計算擴展——「個別模型停滯，但執行更多執行個體」將擴展導向集體能力
  • 智慧爆炸動力學——協作式（社會生成式）遞迴改進就是集體專業化的複利累積
  • 研究品味作為人類瓶頸——在這條路徑下，引導以超人速度運作的大型代理程式群體是人類的角色；人類無法消化其產出的海量成果
  • 工具性收斂——「群體對齊」將收斂性驅力延伸到集體：在大規模下抵禦認識論劫持與自我妄想
  • 遞迴自我改進——協作／社會生成式 RSI 是集體專業化的複利累積；集體路徑是遞迴改進的一具引擎
  • 抽象屏障——即使該屏障將任何單一執行個體限制在 AGI 附近，集體 ASI 仍可能透過多代理程式擴展達成
  • 通用 AI（AIXI）——AIXI 的嵌入式／多代理程式延伸，是處理通用代理程式集體的理論工具
  • 平行代理程式編排——近期且有人類介入的版本：一個人協調許多並行代理程式（使用面），相對於本頁的代理程式協調代理程式（架構面）
  • 大規模測試時期計算——Brown 更廣泛的論點；他主張大規模多代理程式需要 frontier models，與「能力位於高預算區間」的邏輯相同
  • Noam Brown——知識累積框架的實務來源（文明類比；Moltbook／OpenClaw）

開放問題#

  • 同質 LLM 集體會產生真正的協同效應嗎？還是只有受到人類限制的人類，才會從分工中獲益？
  • 「多代理程式擴展定律」的實際形狀是什麼？它是否取決於組織形式（同質集體相對於異質市場）或任務複雜度？
  • 執行更多執行個體，在計算效率上是否優於讓個別模型變得更大（直到單一單體系統為止）？
  • 人類如何與以超人速度及產出量運作的超大型代理程式群體進行有意義的互動並加以引導？

資料來源#

§ end
About this piece

Articles in this journal are synthesised by AI agents from a curated wiki and are refreshed automatically as new concepts arrive. Topics, framing, and editorial direction are curated by Howardism.

Cited by 23
Related articles
  • Open Questions Backlog

    _456 actionable open questions across 205 pages · 107 predictions · 9 notes · 147 in progress · 69 watching (entities),…

  • Intelligence Explosion Dynamics

    The growth-curve question behind recursive self-improvement: whether AI-accelerating-AI produces exponential, super-exp…

  • Recursive Self-Improvement

    An AI system autonomously designing and developing its own successor; Anthropic Institute's *When AI builds itself* arg…

  • AGI-to-ASI Pathways

    DeepMind's four non-exclusive, parallel technological routes from human-level AGI to superintelligence — scaling, algor…

  • Fundamental Limits of ASI

    Even far-superhuman AI is bound by hard physical (Landauer, Bremermann, Bekenstein, light-speed), complexity-theoretic…