資料來源#
- From AGI to ASI
- How to pace the US frontier
- Idea Search: Guiding Tree Search with Ideas to Explore Diverse Scientific Methods
- Noam Brown – Agent swarms, alignment, & recursive self-improvement
- Ouroboros: A Self-Developing Frontier Coding Agent with Reviewed Core Evolution
- Really Big Test-Time Compute in AI Changes Benchmarks, Safety and Research with OpenAI's Noam Brown
摘要#
Recursive Self-Improvement 說的是機制(AI 建造自己的後繼者),而路徑報告將其列為第 3 條路徑;本文則關注成長動態,也就是曲線的形狀。《From AGI to ASI》報告區分了三種型態,並強調:究竟會出現哪一種,目前所知甚少,也沒有可供擬合的歷史先例:
- 指數型——乘法成長率固定(例如有效算力以每年約 10 倍成長)。
- 雙曲線型(超指數)——成長的速率本身隨著成長量增加;其特徵是有限時間內無限成長——奇點。Solomonoff 於 1985 年首先將此概念用於 AI 自我改進;它是 Kurzweil「奇點」以及許多快速起飛情境的基礎(Good 於 1965 年提出的「智慧爆炸」、Bostrom、Chalmers、Davidson)。
- S 曲線——在有限的自然系統中,摩擦和邊界條件會在奇點出現之前讓成長趨緩。至於 AI 研究自動化,「這些摩擦從何時開始發揮作用,目前尚不清楚。」
回饋循環#
如果 AI 加快 AI 研究,研究進展便會帶來更快速/更強大/數量更多的 AI,進而進一步加快研究,形成正回饋循環。最劇烈的動態(可能是雙曲線型)會在 AI 研究完全自動化時出現,但較弱的遞迴效應已經開始發揮作用(例如「思考」模型挑選更好的訓練資料、神經架構搜尋、AI 輔助硬體設計)。報告目前的判斷是:認為數十萬到數百萬名人工研究人員不會造成任何顯著影響,是個強烈假設;因此,除非進展先停滯,遞迴改進至少很可能是重要的加速因素。
四種機制(對照人類演化)#
報告將遞迴改進的類型對應到人類能力成長的動力——AI 可能以快得多的速度運作每一種機制:
- 遺傳型(基因型 RSI)——改良「藍圖」:程式碼(架構、最佳化器、harnesses)和硬體設計。對人類而言進展緩慢;對能自我修改的 AI 而言,則可能極快。
- 文化型(迷因型 RSI)——改良智識產物:自動化資料集整理、合成資料、AlphaZero 式遞迴蒸餾、工具形成。人類文化演化推動了過去 50,000 年的發展;考量到產物生成/分享/使用的速度,AI 的文化演化可能快得多。
- 合作型(社會生成型 RSI)——分工:專業化釋出資源 → 擴大集體規模 → 進一步專業化。這需要合作;合作對 AI 集體的影響力仍不明確(當前模型可透過提示立即專精)。請參閱 Multi-Agent Collective Intelligence。
- 資料型——AI 為下一代整理/產生/模擬品質更高的資料集(AlphaZero 將蒸餾後的搜尋結果回灌先驗模型的循環)。數十億使用者帶來的測試時計算回報,形成了收集資料的經濟誘因,讓這個機制具體化。
正式障礙與抑制爆炸的因素#
- Schmidhuber 的 Gödel machines 將可證明為最佳的自我修改形式化,但需要完整的自我知識,且受 Gödel 不完備性限制(參閱 Fundamental Limits of ASI)。
- Christiano 的迭代式放大——透過遞迴任務分解來提升能力,同時維持對齊。
- 物理與即時限制——即使是超越人類速度的數位研究人員,也必須執行實驗並等待結果;任何需要實體操作的工作(更好的晶片、濕實驗室驗證)都無法任意加速。這就是具身瓶頸,也是報告反對無界奇點的主要論點。迭代遞迴也往往會趨於平台期(報酬遞減,例如 AlphaZero)或退化(以自行產生的資料訓練)。
報告整體的低信心判斷是:恰好在 AGI 時出現嚴重平台期的可能性不高;更可能的是在 AGI 之前停滯,或相對平順地從 AGI 過渡至弱 ASI——除非遞迴改進帶來劇烈加速;此情況「無法排除」,並會使過渡變得迅速。
實務工作者的限制因素:測試時計算是步調約束#
Noam Brown(OpenAI,practitioner-opinion)從前沿實驗室內部提出一項獨立、以機制為基礎的論點,反對雙曲線型奇點,而非從理論出發。模型的最高能力只有透過大規模測試時計算才能解鎖——執行時間可能長達數週或數月——因此,時間本身成了主要限制因素。「事情之所以只能進展到這個速度,是因為模型需要足夠長的執行時間,才能真正做出非常、非常強大的成果。」一夜之間發生智慧爆炸(突破瞬間讓模型變聰明,並在片刻間連鎖擴散)並非受算力上限阻止,而是受算力必須消耗的實際時間所限。Brown 將合理的形狀稱為「漸進式起飛」:RSI 加速可平行化的部分,並受瓶頸限制於不可平行化的部分——其結構與 Recursive Self-Improvement 中談到的未來情境相同,都是 Amdahl 定律——因此「隨著時間過去,造成瓶頸的事情會逐漸減少」,但永遠不會瞬間完成。
這從不同方向與報告提出的具身瓶頸(The Abstraction Barrier)相呼應:DeepMind 認為實體實驗無法任意加速;Brown 則指出,即使是純推論研究也無法任意加速,因為在能力前沿,推論本身也有不可消除的耗時。兩者最後都得出「由時間推進,而非瞬間完成」的結論。
同一位實務工作者,三個月後:判斷相同、限制因素不同,還多了一個數字(2026 年 9 月)#
Brown 在2026 年 9 月(practitioner-opinion)重申反對雙曲線型成長的結論,但背後的機制已經改變——值得標記,因為本文一直將六月的論點視為他獨特的貢獻。
前文提到的推論耗時限制不再出現。取而代之的是一般的實驗限制:
「在數學上,你完全受限於思考……談到 RSI 這類事情時,你確實得執行實驗。光是非常聰明還不夠。……實驗是序列地執行的,因為訓練新模型或取得結果都需要時間。還得有能執行這些實驗的 GPU。」
因此 推論的實際時間是 Brown 的主要限制因素 (事實上並未被取代——他從未撤回這個說法——但截至 2026-09-17,這個說法已退居次位:Navier-Stokes 結果出爐後,他被問到同一問題時,首先提到序列實驗的延遲和 GPU 供應;而讓他六月的立場有別於 DeepMind 具身瓶頸論點的說法則沒有出現。) 實際上,他的立場是朝向報告靠攏,而非遠離:原本新穎的純推論限制,如今換成標準的算力與實驗限制;上文所說的兩者趨同,也更接近完全一致。
**有兩點確實是新資訊。**首先,他用來衡量算力相對於智慧價值的反事實問題,簡要說明他認為哪項投入才是主要限制:「如果算力少 100 倍,而全世界最出色的人都在 OpenAI 工作,相較於現在這麼多的算力和這麼多的人,進展會有多少?我猜實際上會少很多。」當他被追問是否少 100 倍時,他沒有給出肯定回答——「不會少 100 倍。但……會少很多。」依他看來,算力是較稀缺的投入,而其彈性尚未明說。
其次,六月只有形狀,現在則有了數字,這也是他對本文主題說得最明確的一點:
「我們確實看到加速,而且是顯著的加速。但我不認為這會是讓我們快 100 倍的一夜智慧爆炸……**如果你拿槍抵著我的頭,要我說個數字,我覺得速度可能會快三倍。**這非常驚人……但這和快 100 倍有很大的差別。」
他也主動提供誤差範圍:「事情可能只會快 50%。我覺得這不太可能,但也可能快 10 倍。這裡有很多不確定性。」他也說明為何 3 倍不該被視為低估:「考慮到現在事情進展得多快,如果目前是指數成長,而速度再快 3 倍,那就非常驚人。」
3 倍應如何定位。這是單一研究人員在訪談壓力下提出的個人中位數,經過三重保留,沒有模型支撐,也沒有定義分母(究竟是什麼變快——AI 研發、模型發布、基準測試進度?)。它的價值在於比較基準:語料庫中其他量化加速估計包括 Kwa 推算出的約 2.5 倍序列研究人員提升,該數字是從 Anthropic 的 8 倍程式碼產出反推而來;以及 AI Futures Project 推估的 AC 至超級智慧起飛區間,介於 1.0 到 2.6 年。Brown 的 3 倍與 Kwa 的 2.5 倍衡量不同事物——一個是對加速後型態的預測,另一個是對當前型態的估計——但量級相同,而且都比本文描述的第三種雙曲線型態低兩個數量級。這是本語料庫中,前沿實驗室內部人士的數字首次與外部估計在量級上相符,也是目前最有力的論據,支持近期型態會是指數成長、但常數較大,而非雙曲線成長。
他也親自提出認知上的保留,這是理解以上內容最誠實的角度:「我不知道 2030 年的世界會是什麼樣子。這就是實情。」
每個加速數字背後的測量難題(2026 年 9 月)#
同一場訪談最清楚地說明了語料庫中一個問題:本文仰賴的加速數據為何如此難以確定。這是定義問題,而非儀器問題。Brown 依序指出三個混淆因素:
- 歸因。「如果是人類指揮 AI 去做這些工作,有多少該歸功於人類?有多少該歸功於 AI?」
- **能力不均加上工作替代。**模型「非常擅長檢視資料集並檢查每一個資料點」,因此「可以不成比例地把這些工作交給 AI」——而且「當然,如果某件事突然快 100 倍、好 100 倍,人們自然會多做這件事。」任務組合會隨能力改變,所以前後比較並不是在比較相同的工作。
- 反事實的方向會改變答案。「你是在跟三年前的速度提升比較嗎?問題是『以三年前做的事來看,我們現在能快多少完成?』,還是『以我們現在做的事來看,三年前完成它會慢多少?』這其實是兩個非常不同的問題。」
最後這項區別,正是本語料庫一直沒有做到的。它收錄的所有提升數字——8 倍程式碼產出、Kwa 的反推估計、內部加速曲線——都隱含選擇了兩種反事實之一,卻沒有說明選的是哪一種。同一段訪談中,Brown 提供的可用數據是投入衡量,而非產出衡量;這避開了問題,因為它根本沒有宣稱衡量生產力:OpenAI 的內部加速貼文指出,截至 8 月初,內部排名前 1% 的研究人員每天在 Codex 上花費 7,000 至 8,000 美元,而且是「呈指數成長」。支出曲線原則上可以查核,但不會說明這筆支出換來什麼——這正是本文其他地方記錄的活動與能力混淆,這次呈現的形式,沒有讓作者誤將其視為能力主張。
起飛所需時間作為政策變數(2026 年 8 月)#
以上來源討論的是曲線的形狀。AI Futures Project 的步調管控提案(2026-08-05,practitioner-opinion)是本語料庫首批為起飛區間提出數字,並將其視為法規可改變的變數的資料。其模型依據兩位預測者——Daniel Kokotajlo 與 Eli Lifland——的中位數參數,列出在不介入的基準情境,以及各種提議介入下,自動化程式設計師出現的時間和從 AC 到超級智慧的起飛時間。
| 情境 | Kokotajlo 中位數:AC/起飛時間 | Lifland 中位數:AC/起飛時間 |
|---|---|---|
| 不介入 | 2028.3/1.0 年 | 2029.5/2.6 年 |
| 算力削減至五分之一,於未削減情境的 AC 日期實施 | 2028.3/2.3 年 | 2029.5/5.0 年 |
| 立即削減算力(2026.75) | 2029.4/1.6 年 | 2031.1/3.7 年 |
| 自 2026.75 起,AI 研發能力延遲 9 個月 | 2028.4/2.4 年 | 2029.7/4.1 年 |
這裡有兩項值得注意的結果,文章本身都沒有明說——兩者都是從圖例讀出的。
- **起飛期延長幅度會因介入時機而非單調變化,且在介入時間正好落於自動化程式設計師出現時達到峰值。**無論在兩組參數中的哪一組,比 AC 更早或更晚削減算力,都會讓起飛期延長得較少。將 AC 出現時間加上起飛時間(依 wiki 算法,不是作者的計算),即可得到超級智慧出現年份;依據該指標,排序會逆轉——兩組參數下都是越早削減越好。因此,「讓起飛期盡可能長」與「讓整體延遲盡可能久」是目標不同、最佳解也不同的兩種目標。提案偏好前者,完全是基於這個主張:爆炸後期的時間比前期更有價值,因為「我們最關心的是減慢智慧爆炸後期的進展……那時的 AI 更聰明,所以時間更有價值。」
- **能力延遲可以延長起飛期,卻不會延後起飛。**立即禁止使用推出未滿九個月的模型進行 AI 研發,大約能將起飛期延長兩到四倍,同時只讓自動化程式設計師延後 0.1 至 0.2 年。這是本語料庫中最明確的例子,顯示介入作用於爆發區間曲線的斜率,而非起始日期。
應將這些數字視為經過校準的預測,而非測量結果:模型、先驗和提案皆出自相同作者,且整體分析屬於 practitioner-opinion。它的貢獻在於指出,前述指數型與雙曲線型、S 曲線的問題也有政策對偶——每項針對此發展路徑的提案,實際上都在試圖爭取 AC 至 ASI 的時間間隔。
第一個縱向自我修改資料集,衡量的是錯誤的軸(2026 年 8 月)#
以上內容都從理論、預測或尚未實際執行的外推來討論曲線形狀。Ouroboros/Hope(Razzhigaev 等人,arXiv 2608.08311,case-study)是本語料庫中第一個可能提供早期自我改進實際時間序列的來源:**已部署的代理程式連續 161 天重寫自己的核心,提交了 1,085 次自我修改,其中 94.2% 由代理程式撰寫,並持續發布每月數據點。**這正是本文第一項未解問題所要求的資料形態。
它衡量的是活動,而非能力。圖 6——論文唯一的時間序列——按 2026 年 2 月至 8 月的每月終點繪出四項累積部署指標:模型支出(110.6K 美元)、tokens(79.7B)、已發布程式碼規模(175,755 LOC)、記憶產物(227 MB)。支出和 tokens 持續成長,但增速略微放緩,且在最後一個月趨平;兩項產物指標呈階梯狀,已發布 LOC 在最後略為下降。整個部署期間沒有重跑基準測試、沒有任務成功率,也沒有任何能力指標。對外推而言更不利的是,論文的基準分數是在停用自我演化的固定種子上產生,因此全文沒有任何實驗將自我發展與分數連結起來。
這項研究帶來兩點啟示,都與這類資料集需要包含什麼有關,而非與曲線本身有關:
- **規模成長不等於能力成長;如果只測量其中一項,兩者極易混淆。**支出增速放緩,或已發布 LOC 停滯,都無法說明循環的報酬是否遞減;這也可能代表系統效率提高,或剩餘問題變得更難。若沒有並列的能力曲線,圖 6 的每一種形狀都可能符合指數型、S 曲線,甚至毫無進步的情況。
- **一項值得注意的反向訊號,但須保留看待。**整段運行期間,1,522 次經審查的自我編輯嘗試中有 1,085 次提交,代表約 71% 獲接受;而文件所述的近期審查阻擋率為 63.5%(約 37% 獲接受)。如果這個差距確實存在,而非兩個未定義分母造成的假象,那麼在部署期間,通過審查的自我編輯比例大幅下滑——這符合報酬遞減的預期,也是文件中最接近曲線轉折的證據。
由於作者利益衝突總體偏高,應將其權重視為 case-study:只有一條系譜,沒有對照群體(論文自己的〈限制〉一節也如此說明),而且計數器是由受研究的系統自行回報。
相關連結#
- Continuous Self-Modification Under Review — 語料庫中第一個已部署、未經簡報且持續自我修改的代理程式,也是最接近早期 RSI 資料集的案例:161 天、1,085 次自我修改提交、每月發布數據點——所有指標衡量的都是支出、tokens、程式碼量和記憶產物,而非能力
- Domestic Frontier Pacing — 將起飛時間視為政策變數:量化 AC 至超級智慧的時間間隔(全速發展時為 1.0 年和 2.6 年),以及不同步調介入措施可延長多少時間;另外,當介入措施正好在自動化程式設計師出現時實施,起飛期延長效果會達到峰值,這項結果並非單調變化
- Recursive Self-Improvement — 討論其機制;本文則補充成長動態(Anthropic 的 When AI builds itself 是相關來源)
- AGI-to-ASI Pathways — 遞迴改進是第 3 條路徑;報告將其動態視為最大的預測不確定性
- Effective Compute Scaling — 指數算力成長是遞迴循環向上彎曲的基礎;以資料作為 RSI 的機制與資料牆指標重疊
- Multi-Agent Collective Intelligence — 合作型/社會生成型 RSI 是集體專業化的複利效應
- Advantages of Digital Intelligence — 高頻寬的迷因/文化演化(無損分享經驗)是超指數自我改進的一種引擎
- The Abstraction Barrier — 具身瓶頸會將原本可能呈雙曲線型的循環,轉化為受實證科學步調限制的循環
- Fundamental Limits of ASI — Gödel、物理和即時限制會界定爆炸的上限
- AI-Driven Formal Proof Search — FunSearch/AlphaEvolve 是具體的演算法自我改進案例(以 LLM 引導程式搜尋,找出新穎構造)
- Task Time-Horizon Scaling — 這條趨勢線讓「曲線是否正在彎曲?」成為可實證檢驗的問題
- AI R&D Autonomy Evaluation (AECI) — 衡量 AI 研發自動化程度(Chan 等人,2026 年;Anthropic 的 AECI),是「遞迴改進尺度律」所需的實證輸入
- Artificial Superintelligence (ASI) — AGI 至 ASI 的過渡是否平順或爆發式,取決於這些成長型態
- The Data Wall and the Validation Commons Are One Supply Constraint — 從本語料庫的測量結果評估第 4 種機制(資料)的成本,得到的答案縮小了範圍:AI 整理和產生下一代資料所需 FLOPs 不多,真正的配給限制來自驗證器是否存在、驗證器的延遲,以及生成器多樣性崩潰。因此,資料引擎根本不是由算力步調控制的加速因素——它以驗證基礎層的速度運作,與具身瓶頸同處限制的一側,而非相反
- Large-Scale Test-Time Compute — Brown 關於受時間瓶頸限制的(漸進式而非雙曲線型)起飛機制:最高能力需要長時間推論,因此即使是純推論研究也受實際時間限制
- Noam Brown — 提出測試時計算步調論點的實務工作者來源,也記錄了其在 2026 年 9 月的轉向:維持反對雙曲線型的判斷,但限制因素改為序列實驗和 GPU,而非推論的實際時間;並以保留的 3 倍作為加速型態的中位數
- AI Accelerating AI Development — Brown 提到的三個混淆因素會在此發揮作用:語料庫中的每個提升數字,都隱含選擇了他提出的兩種反事實之一(「現在能快多少」或「當時會慢多少」),卻沒有說明是哪一種;同時,任務組合會偏向模型已擅長的工作
- Evaluation Horizon Versus Release Cadence — 將相同的實際時間論點從研究人員移到評估者身上:如果能力體現在長時間執行的工作中,最先用完行事曆時間的一方,可能是檢查模型的人,而非改進模型的人
- Researcher Uplift from Code Output — 提供成長問題中勞動力方面的係數:將 Kwa 的序列研究人員提升約 2.5 倍代入 Greenblatt 的
R&D ≈ labor^0.55 × compute^0.45,得到目前約 1.77 倍的研發加速;若算力每年增加三倍,兩種投入都會呈指數成長——這是研究產出可持續增加(而非停滯)的半內生論據 - Balance-of-Power Superintelligence — 建造者提出的爆炸情境:Zuckerberg 的宣言承認,自我改進系統可能「從每吉瓦算力中榨出 100 倍以上的智慧」,並掌握比其他所有人加總更多的有效算力,接著以算力分配比例作為回應,而非提出能力上限
- Transformative Creativity — 從「固定模型加搜尋」這項資料,推論可構想內容的上限,而非可評分內容的上限:自動化探索循環只能搜尋交給它的概念空間,因此其範圍受限於該空間的內容;而 LLM 加入概念空間的點子,全都是既有技術
待解決的問題#
- 能否制定「遞迴改進尺度律」,從早期資料點預測自我改進曲線(及其平台期)?部分回答,結論是否定的(2026-08-12):Ouroboros/Hope 提供了本語料庫首個來自真實自我修改部署的早期資料集——161 天、1,085 次自我修改提交、每月發布數據點——而且其中每一條序列都衡量部署活動(支出、tokens、已發布 LOC、記憶產物),而非能力;其基準分數則是在停用自我演化的情況下,以單一固定種子快照取得。因此,這個問題在擬合方法上沒有進展;改變的是規格,現在已經有明確實例:可用的資料集需要在活動曲線旁呈現能力曲線,而目前還沒有任何已發布部署做到這一點。
- 單一固定模型能僅靠測試時計算搜尋將表現推高到何種程度?在什麼條件下,遞迴蒸餾會退化或累積增益?前半部分已有部分回答(2026-08-12):Idea Search(
empirical)固定模型(Gemini 2.5 Pro),只調整搜尋;在單細胞 RNA 定序批次整合任務中搜尋 2,000 個節點。無引導樹搜尋很早便達到飽和——約 300 個節點時為 0.678 ± 0.011——而且只要擴大搜尋的輸入空間,就能移動上限,無須更換模型:將十種專家方法拆解成明確的點子庫並以此作為初始輸入,便能將飽和點推至約 500 個節點,平均值提高至 0.697(最佳單一解為 0.728)。有兩項條件使這只算是小型資料點,而非研究結論:約 0.02 的提升與 0.008 至 0.018 的試次間差異相當;而且光擴大搜尋空間還不夠——加入 49 個由 LLM 腦力激盪的點子,使多臂強盜採樣器從 0.692 提升至 0.703,卻讓均勻採樣從 0.712 降至 0.698;將採樣器自身的探索係數 α 從 1 提高到 4,也使平均值下降(0.712 ± 0.012 → 0.703 ± 0.008)。因此,固定模型的搜尋上限由搜尋空間和選擇器共同決定,盲目提高探索程度反而會降低上限。這裡沒有任何證據能回答遞迴蒸餾的部分。 - 哪個限制會最先發揮作用——演算法上限、具身瓶頸,還是算力/能源供應——並決定指數型、雙曲線型或 S 曲線?部分回答:RSI Growth Curves: Which Friction Binds First?——這份報告與 Anthropic 都將主要限制定位在認知之外(把循環連接到現實、且最難加速的步驟);具身瓶頸會重新限制步調,而非停止進展;資料牆和研究難度轉而受算力限制;抽象邊界則是唯一候選的根本性阻礙。2026-08-10 從
#oq/now重新標記為#oq/source:已有明確候選,但尚未排序;排序需要外部證據,而非進一步綜合整理。
資料來源#
- From AGI to ASI — 第 2 節(「奇點近了嗎?」)、第 5.3 節(遞迴自我改進的四種機制)、第 7.1 節(研究議程項目 4)
- Really Big Test-Time Compute in AI Changes Benchmarks, Safety and Research with OpenAI's Noam Brown — Noam Brown(No Priors,2026-06-26),
practitioner-opinion:依賴測試時計算,使時間成為起飛瓶頸;「漸進式起飛」,不會一夜之間爆炸 - Ouroboros: A Self-Developing Frontier Coding Agent with Reviewed Core Evolution — Razzhigaev、Gritsaev、Kaznacheev、Dragunov、Yampolskiy 與 Kuznetsov(MSU / Skoltech / Joi Lab / AIRI,arXiv 2608.08311,2026-08-08,
case-study——編纂時從empirical降級):圖 6(依照雙階段規則從頁面影像讀取的四條每月活動序列——其形狀和最後一個月 LOC 下降,在正文中均未提及)、表 4 的部署計數,以及附錄 C 中透露evolution off的支架設定。作者利益衝突總體偏高;只有一條系譜,沒有對照群體。Continuous Self-Modification Under Review 收錄解析警告和完整說明 - Noam Brown – Agent swarms, alignment, & recursive self-improvement — Noam Brown(OpenAI)與 Dwarkesh Patel,Dwarkesh Podcast,2026-09-17(
practitioner-opinion)。§00:22:02「數學進展對遞迴自我改進的啟示」:序列實驗和 GPU 限制、算力減少 100 倍的反事實、附帶 50% 至 10 倍範圍的 3 倍中位數、兩種反事實的區別,以及 Codex 內部支出數字。全程採用第一手資料,且講者有所保留——「我完全可能是錯的。我承認這一點」、「如果你拿槍抵著我的頭,要我說個數字」——但沒有模型、沒有「變快」的分母定義,而且raw/中沒有發布內部加速貼文的版本。Noam Brown 詳述六月至九月間的變化 - Idea Search: Guiding Tree Search with Ideas to Explore Diverse Scientific Methods — Wang、Cui、Brenner 與 Venugopalan(Caltech / Google Research / Harvard),arXiv 2608.08958(2026-08-09,
empirical):第 5.1 至 5.3 節,本文僅引用固定模型的搜尋上限資料,並在第二項未解問題中附註。來源中沒有表格;本文引用的數字皆取自正文,圖 5 也依雙階段規則以 4 倍放大確認。效果大小落在試次間差異範圍內——只保留方向,不保留數值。 Transformative Creativity 收錄完整說明 - How to pace the US frontier — AI Futures Project,2026-08-05(
practitioner-opinion):AC/起飛時間數據取自〈Effect of compute allocation minimums〉、〈Limit capabilities of models used for AI R&D〉及〈When to start pacing the frontier〉。**依據影像雙階段規則,所有數值均從圖例抄錄,而非正文;非單調性和 AC 加起飛期總和則是 wiki 推算。**作者利益衝突來自共同作者身分:AI Futures Model 和兩組參數中的一組皆由提案者自建。Domestic Frontier Pacing 收錄完整說明
Cited by 25
- Recursive Self-Improvement×6
Intelligence Explosion Dynamics — the growth-curve question (exponential vs. hyperbolic/singularity…
- AGI-to-ASI Pathways×3
Recursive (self-) improvement — AI accelerates AI R&D, plausibly compounding into an intelligence…
- Multi-Agent Collective Intelligence×3
On sociogenic RSI: his firm-theoretic argument is that alignment, not bandwidth, is the incumbent's…
- Noam Brown×3
No overnight intelligence explosion. Because peak capability requires large test-time-compute runs,…
- Open Questions Backlog×3
Intelligence Explosion Dynamics: Which binds first — algorithmic ceilings, the embodied bottleneck,…
- RSI Growth Curves: Which Friction Binds First?×3
from agi to asi — Google DeepMind (Genewein, Hutter, Legg et al., arXiv 2606.12683): three growth…
- The Abstraction Barrier×2
Intelligence Explosion Dynamics — the main argument that a would-be hyperbolic loop is paced by…
- Advantages of Digital Intelligence×2
These properties decouple AI from limits that shape human existence: an AI's lifespan isn't tied to…
- AI Accelerating AI Development×2
Noam Brown — the source for the two-counterfactuals distinction, the substitution confound, and the…
- Artificial Superintelligence (ASI)×2
The report's headline judgment (low confidence): it is implausible that AI progress stalls exactly…
- Balance-of-Power Superintelligence×2
The numeric illustration — a self-improving system optimizing its own efficiency could "squeeze…
- Continuous Self-Modification Under Review×2
Intelligence Explosion Dynamics — the growth-curve question; Figure 6 is the closest thing to an…
- The Data Wall and the Validation Commons Are One Supply Constraint×2
Intelligence Explosion Dynamics, Agi To Asi Pathways — data-as-RSI-engine and the six-friction list…
- Effective Compute Scaling×2
Intelligence Explosion Dynamics — compute growth is the substrate a recursive loop accelerates;…
- Evaluation Horizon Versus Release Cadence×2
The horizon problem is that the curve's far end takes wall-clock time you do not have, because a…
- Fundamental Limits of ASI×2
Logic — Gödel's incompleteness and the Halting Problem: limits of what can be objectively answered…
- Large-Scale Test-Time Compute×2
This page is the hub for the test-time-compute cluster. The root claim lives here; its three…
- Researcher Uplift from Code Output×2
Ryan Greenblatt's decomposition: R&D speedup ≈ (serial labor acceleration)^0.55 × (compute)^0.45.…
- AI-Driven Formal Proof Search
Intelligence Explosion Dynamics — FunSearch/AlphaEvolve-style LLM-guided program search is concrete…
- AI R&D Autonomy Evaluation (AECI)
Intelligence Explosion Dynamics — measuring the extent of AI-R&D automation (Chan et al. 2026) is…
- CS329A: Self-Improving AI Agents (Stanford)
Read together, that is a course whose own evidence says the flywheel is a compounding efficiency…
- Domestic Frontier Pacing
Intelligence Explosion Dynamics — quantified takeoff lengths for the growth-curve question: 1.0 and…
- Superintelligence Trajectory
Intelligence Explosion Dynamics — The growth-curve question behind recursive self-improvement:…
- Task Time-Horizon Scaling
Intelligence Explosion Dynamics — the metric that makes "is the curve bending toward a singularity,…
- Transformative Creativity
Intelligence Explosion Dynamics — the search-side reading of the same result: what a fixed model…
Related articles
- Recursive Self-Improvement
An AI system autonomously designing and developing its own successor; Anthropic Institute's *When AI builds itself* arg…
- Effective Compute Scaling
DeepMind's framing of compute growth as ~10×/year of 'effective compute' — the product of hardware improvement (~1.5×/y…
- Research Taste as the Human Bottleneck
The narrowing human role as AI absorbs execution: choosing which problems matter, which results to trust, and when an a…
- Open Questions Backlog
Generated by `_system/lint.py --write-backlog`. Do not hand-edit. Domain and Watching sections carry one row per page —…
- AGI-to-ASI Pathways
DeepMind's four non-exclusive, parallel technological routes from human-level AGI to superintelligence — scaling, algor…
