H
Howardism
Plate IIEvals & Benchmarks機器翻譯 · machine-translated過時翻譯 · stale translationENHOWARDISM

任務時間範圍擴展

PublishedJune 7, 2026FiledConceptDomainEvals & BenchmarksTagsLLM ArchitectureCapability EvaluationBenchmarksCapability TrajectoryReading14 minSourceAI-synthesised

METR 衡量 AI 能可靠自行完成的任務長度,約每 4 個月翻倍(先前為每 7 個月):Opus 3 約 4 分鐘(2024 年 3 月)→ Opus 4.6 約 12 小時(2026 年)→ 預計 2027 年達到數週;並與基準飽和(SWE-bench、CORE-Bench)相互印證

任務時間範圍擴展插圖

資料來源#

摘要#

Recursive Self-Improvement 背後的外部基準趨勢線是:AI 能可靠自行完成的任務長度,約每四個月翻倍——相較早期約七個月翻倍的速度,這個趨勢已經加速。這項指標來自 METR時間範圍研究,表示模型在一組任務上達到 50% 可靠度時所能持續的時間(在 80% 可靠度下,曲線看起來也相同)。這是 When AI builds itself 的量化主軸:AI Accelerating AI Development 展示 AI 如何在 Anthropic 內部 加速 AI 工作,而這裡展示的是底層能力如何在公開基準上提升。

翻倍曲線#

模型約略日期可靠的任務長度
Claude Opus 32024 年 3 月約 4 分鐘
Claude Sonnet 3.7約 2025 年 3 月約 1.5 小時
Claude Opus 4.6約 2026 年約 12 小時
(預測)今年數天
(預測)2027 年數週

Mythos Preview 已來到可測量性的邊界:[METR] 發現它能工作「至少」16 小時,且已「接近 [METR] 在沒有新增任務的情況下所能測量的上限」。趨勢的加速(7 個月 → 4 個月翻倍)才是關鍵——這也是文章主張該迴圈可能「比多數機構準備好的時間更早」閉合的原因。

2026 年 6 月發布的 Mythos 類模型又更進一步:Fable 5 / Mythos 5「能自主工作的時間,比以往任何 Claude 模型都長」,而具體資料點是超過一週、基本上自主完成的基因組學工作(組合資料、設計並訓練模型、擊敗已發表的基準——見 Autonomous Scientific Discovery)。持續一週的自主研究執行,已遠超 METR 可測量的任務集合;如今是指標在追趕能力,而不是替能力設定界線。

時間範圍——以及其翻倍速率——本身取決於預算(UK AI Security Institute)#

UK AI Security Institute 2026 年 7 月的研究(empirical)補充了一項上述翻倍曲線未指出的干擾因素:**模型估計的時間範圍,以及該範圍翻倍的速率,都取決於評估允許的計算預算。**時間範圍數字只有相對於某個預算才有定義。

在 AISI 狹窄的網路 CTF 測試套件中,自 2024 年底起,前沿模型的時間範圍每 4.7 個月翻倍,前提是以每項任務 250 萬個 token 測量——這接近 METR 在另一組(一般性)任務集合上得到的約 4 個月數字。但若以更大的預算重新擬合同一套件,曲線會變得更陡:

  • 每項任務 5,000 萬個 token 時,擬合出的前沿趨勢比 250 萬個 token 時陡峭約 60%。AISI 自己的解釋是:「估計的翻倍速率,部分是評估所使用的計算預算造成的結果,而不是前沿網路能力進展的固定特性。」
  • 在模型層級,某個近期前沿模型的 80% 時間範圍,從250 萬個 token 下約 40 分鐘,增加到 5,000 萬個 token 下約 4 小時;在目前的前沿上,將預算從 250 萬提高到 5,000 萬,會讓估計時間範圍從約 2 小時提升到約 14 小時

其機制是 AISI 的另一項結果:代理所需的計算量,會隨熟練人類完成任務所需的時間而增加——在 AISI 的 78 個網路 CTF 與 METR 的 211 個軟體工程任務上,這是一個擬合指數約為 0.7–1.0 的冪律(數分鐘的任務 ≈ 數千個 token,一小時 ≈ 數百萬個 token,一週 ≈ 數十億個 token)。即使只看每項任務中最便宜的成功執行,這個關係依然成立,因此下限由任務所需的工作量決定,而不是效率不彰。由於較長的任務需要更多計算,固定預算會先在最長的任務上耗盡——所以有上限的評估會系統性低估時間範圍;長任務失敗,可能代表執行獲得的預算不足,而不代表模型缺乏該能力。AISI 的網路測試 「The Last Ones」(約 20 個人類工時)直到預算達到 ≥3,000 萬個 token 後才被模型解出;在 Epoch 的 MirrorCode 上,某個近期模型最多花費10 億個 token取得進展(相當於數週的人類工作),而先前模型無法做到這一點。

這重新界定了本頁的核心數字。約 4 個月翻倍是真實的,但它是在隱含預算下得到的統計;以更大的預算測量時,前沿看起來還會移動得更快。這條曲線是否為穩定的指數成長,如今與第三個問題糾纏在一起——預算是多少?——而不只是下面所談的指數曲線與 S 曲線之爭。

基準飽和作為佐證訊號#

同樣的模式也出現在基準從幾乎為零走向「飽和」(約 100%;考慮到使許多基準上限低於 100% 的錯誤):

  • SWE-bench——提供模型一個真實的開源程式碼庫與錯誤報告,要求它完成一項能通過專案自身測試的修改。從個位數低百分比到飽和,只花了兩年。(參見 Claude Opus 4.8:SWE-bench Verified 得分 88.6。)
  • CORE-Bench——根據論文的程式碼與資料重現已發表論文的結果;這是進行原創研究的先決條件。從約 20%(2024 年)到飽和,只花了十五個月

這就是為什麼時間範圍長度,而不是單一基準的準確度,已成為更有資訊量的能力軸;也是為什麼 Anthropic 在模型跨過最頂尖的人類基準後,停止使用以任務為基礎的 AI 研發基準(見 AI R&D Autonomy Evaluation (AECI))。

注意事項#

  • **基礎設施壓力是領先指標,不只是趣聞。**GitHub 在 2025 年全年約有 10 億次提交;到 2026 年年中,每週約有 2.75 億次(年化約 140 億次),並且正對容量「施加極大壓力」——這是同一波吞吐量激增的下游特徵。
  • 時間範圍數字是任務集合上的 50% 可靠度統計;集合內的鋸齒性是真實存在的——能處理 12 小時任務的模型,仍可能會在簡單任務上失敗。
  • 世代曲線也同樣鋸齒。AISI 的整體結論「較新的模型能更遠、更可靠、更有效率地完成任務」掩蓋了一小部分退步:在約10–30% 的任務上(取決於測試套件),較新的模型實際上比前代模型更差AISI 註腳)。平均而言,觸及範圍、可靠度與效率的提升是真實的,但底層仍呈現鋸齒——這是跨世代的鋸齒性,不只存在於單一任務集合內。
  • 這條曲線究竟是真正的指數曲線,還是接近轉折點的 S 曲線,是 Recursive Self-Improvement 第一個未來情境中的明確不確定性。
  • 如今,發布週期比測量能力上限所需的時間更短。Noam Brown(OpenAI、practitioner-opinion)表示:要真正評估代理執行數月任務的能力,唯一方法就是讓它執行那麼久;但新模型每兩到三個月就發布,因此模型在任何人有足夠時間執行它、找出能力上限之前,就已經退役(「沒有人真正知道能力上限是什麼……沒有人讓它們執行足夠久」)。當長時間範圍的代理能力發布時,人們往往要等第一批持續一週的執行完成、一週後才意識到它的重要性。測得的時間範圍,由於結構性設計而落後於真實時間範圍——這是從評估角度看到的能力過剩,也是大規模測試時期計算難以基準測試至平台期的同一原因。

相關連結#

  • Recursive Self-Improvement——將這條曲線外推後,它構成迴圈可能很快閉合的量化論據
  • AI Accelerating AI Development——與這項外部基準證據相配的內部吞吐量伴隨指標
  • Jagged Intelligence (Ghosts, Not Animals)——集合內的注意事項:長時間範圍能力與簡單失敗可以並存
  • The Bitter Lesson——一般基準上的能力提升,正是手工打造的腳手架優勢逐漸縮小的原因
  • AI R&D Autonomy Evaluation (AECI)——以任務為基礎且已飽和的基準為何從 RSP 判定中退役
  • Build for the Next Model——這項指標所測量、可預測的能力曲線,讓「押注下一次發布」成為合理的產品策略,而不是賭博
  • Autonomous Scientific Discovery——Mythos 5 持續一週的自主基因組學執行,是超越 Mythos Preview 已測得 16 小時上限的具體長時間範圍資料點
  • Effective Compute Scaling——這項能力側趨勢線所補充的計算側曲線;Whitfill 等人根據計算預測建立時間範圍成長模型
  • AGI-to-ASI Pathways——餵入該報告量化預測與超越人類基準議程的具體能力趨勢線
  • Intelligence Explosion Dynamics——讓「曲線是否朝奇點彎曲,還是呈現 S 曲線?」得以透過實證檢驗的指標
  • Deep Research Agents——深度研究正是此指標所測量的那種長時間範圍自主任務;DRACO 在該時間範圍上評分報告品質
  • DRACO Benchmark——姊妹能力基準(代理研究報告的品質與模型能維持的任務長度);兩者都面臨基準飽和壓力(DRACO 捨棄超過 90% 已解出的任務)
  • Production-Sourced Evaluation——從即時使用情況更新的方法,回答本頁「飽和的任務集合由什麼取代」這個開放問題
  • Repository Exploration Subagent——SWE-bench 家族(Multilingual / Pro / Verified / SWE-QA)是 FastContext 的評估介面;最長時間範圍的變體(SWE-bench Pro)展現最大幅度的提升,與探索成本隨任務時間範圍複利增加的情況一致
  • Planning / Execution Division of Labor——上限(模型能自主完成什麼,如此處所測量)與使用者實務上真正授予的實現程度之間的差異;Anthropic 引用 METR 的時間範圍作為持續上升的上限,而其使用資料仍低於此上限
  • Agentic Coding Work-Composition Shift——可靠任務長度上限上升,是使用情況從除錯轉向端到端操作與分析完整工作流程的上游原因
  • Conversation-to-Delegation Shift——這項上限在使用側的解讀:OpenAI 的 Codex 研究發現,自 2025 年 12 月起,估計將超過 8 個熟練人類工時的任務交給代理的個人使用者比例,從 2.1%→25.6% 上升——任務複雜度正緊貼 METR 測得的時間範圍攀升
  • Parallel Agent Orchestration——長時間執行代理的執行時間餘裕(OpenAI 使用者 p99 約 71 個代理工時/日),就是低於此可靠長度上限的單一代理任務持續時間
  • Exposure Taxonomy: Observed, Theoretical, Reported, Anticipated——理論暴露(LLM 可能做到什麼)受此可靠任務長度上限限制;調查中的已報告/預期暴露則低於它
  • The Three Loops of AI-Native Building——曲線上的一個軼聞資料點:Andrew Ng 的編碼代理在回到他身邊之前,曾無人看管地「工作約一小時,使用網頁瀏覽器檢查自己建立的內容」
  • Large-Scale Test-Time Compute——可靠任務長度曲線,是以能力衡量的該論點;讓模型搭配腳手架執行數週/數月,正是推論預算消耗之處
  • Latent Capability Overhang——無人測量的上限:發布節奏短於將模型執行至極限所需的時間
  • Compute-Controlled Benchmarking——在明確預算下的可靠任務長度是一項計算控制指標;兩者都取代單一數字準確度,也都在對抗基準飽和
  • Benchmark Score Redundancy——飽和即冗餘:飽和基準在模型間的分數差異接近於零,這正是它在 BenchPress 的 rank-2 矩陣中變得可輕易預測的原因——因此飽和既削弱本頁指標,也讓分數能從其他分數推知
  • Measuring Beyond Accuracy Saturation——「CORE-Bench 飽和後該怎麼辦」的伴隨文章:本頁引用 CORE-Bench 在 15 個月內飽和;Nadgir 等人直接採用該飽和基準,展示六個非準確度軸(構念效度、OOD 穩健性、效率、可靠度、模型與腳手架的貢獻、人類—代理提升)仍能區分代理,主張「重新加裝測量,不要退役」
  • UK AI Security Institute——測量時間範圍與翻倍速率對預算的依賴,以及計算需求與人類時間之冪律的評估者;重用了 METR 的任務集合
  • Noam Brown——「評估一個執行一整年任務的代理,唯一方法就是讓它執行一年」這一觀點的來源
  • The Open-Weight Frontier Gap——Arena Elo 衡量聊天偏好;開放/封閉模型之間的 33 Elo 差距是否適用於長時間範圍代理工作,是時間範圍問題,而非偏好問題

開放問題#

  • 4 個月翻倍是穩定的階段,還是局部變陡?趨勢的形狀(指數曲線或 S 曲線)尚未確定。進一步釐清(2026-07):AISI 補充指出,翻倍速率本身取決於預算——在每項任務 5,000 萬個 token 下測量時,同一網路測試套件的翻倍速度比 250 萬個 token 下快約 60%,因此若不指明 eval 預算,標題所稱的速率便沒有定義。穩定性問題如今與預算問題糾纏,而不只是指數曲線與 S 曲線之爭。
  • 時間範圍是在本身也會飽和的任務集合上測量;當數週任務變得可測量後,什麼會取代這些集合——又由誰建立這些任務?部分回答/重新框定(2026-07):Nadgir et al. 主張不要取代,而要重新加裝測量:他們採用 CORE-Bench(上文稱其在 15 個月內飽和),展示準確度飽和後,它仍能沿六個非準確度軸區分代理,因此「飽和集合由什麼取代」可以是「保留它並換一種方式測量」,而不是「建立更難的集合」。這解決的是準確度飽和,而不是本頁任務集合面臨的長度指標飽和,也沒有回答誰會建立下一批數週任務——所以它重新框定了退役反射,卻沒有結束這個問題。

資料來源#

§ end
About this piece

Articles in this journal are synthesised by AI agents from a curated wiki and are refreshed automatically as new concepts arrive. Topics, framing, and editorial direction are curated by Howardism.

Cited by 34
  • Agentic Coding Work-Composition Shift

    Anthropic's 400K-session telemetry, Oct 2025→Apr 2026: as models improved, the share of sessions fixing broken code fel…

  • AGI-to-ASI Pathways

    DeepMind's four non-exclusive, parallel technological routes from human-level AGI to superintelligence — scaling, algor…

  • AI Accelerating AI Development

    The empirical core of *When AI builds itself*: measured evidence AI already speeds AI R&D at Anthropic — >80% of merged…

  • AI R&D Autonomy Evaluation (AECI)

    How Anthropic measures whether a model can automate or dramatically accelerate AI research — the capability that drives…

  • Anthropic Institute

    Anthropic's policy/governance research arm; published *When AI builds itself* (Favaro & Clark, 2026) on recursive self-…

  • Autonomous Scientific Discovery

    Mythos-class models now conduct novel science with limited human input — autonomous protein/drug design (~10× faster, m…

  • Benchmark Score Redundancy

    Zeng & Papailiopoulos (Microsoft Research, arXiv 2606.24020): an 84-model × 133-benchmark public score matrix (2,604 ce…

  • How Much Signal Do Public Benchmarks Still Carry — and What Replaces Them?

    Synthesis of the 2026 eval-science cluster: public benchmark suites carry far less independent signal than their count…

  • Build for the Next Model

    Prototype the thing that almost works, not the thing that already works: bet that the next concrete model release (not…

  • Claude Fable 5

    Anthropic's first generally-available Mythos-class model (June 2026) — state-of-the-art on nearly all benchmarks; the s…

  • Compute-Controlled Benchmarking

    Noam Brown's critique that the single-number 'benchmark grid' is broken because it doesn't control for test-time comput…

  • Conversation-to-Delegation Shift

    OpenAI's Codex usage study (June 2026): the move from conversational AI ('asking') to agentic AI ('delegated production…

  • Deep Research Agents

    Agentic systems that decompose a complex query, iteratively search diverse sources, and synthesize a structured, cited…

  • DRACO Benchmark

    Perplexity's benchmark of 100 production-sourced deep-research tasks (10 domains, 40 countries) graded by 26-expert rub…

  • Effective Compute Scaling

    DeepMind's framing of compute growth as ~10×/year of 'effective compute' — the product of hardware improvement (~1.5×/y…

  • Exposure Taxonomy: Observed, Theoretical, Reported, Anticipated

    Four distinct ways to measure AI's reach into an occupation — observed exposure (tasks seen done with Claude), theoreti…

  • Intelligence Explosion Dynamics

    The growth-curve question behind recursive self-improvement: whether AI-accelerating-AI produces exponential, super-exp…

  • Jagged Intelligence (Ghosts, Not Animals)

    "Ghosts not animals": jagged statistical circuits, no intrinsic motivation; car-wash/strawberry failures; stay in the l…

  • Large-Scale Test-Time Compute

    Noam Brown's thesis that model capability is now a function of inference budget (tokens/cost/time): with good scaffoldi…

  • Latent Capability Overhang

    Noam Brown's claim that already-released models can do far more than anyone has extracted, because nobody spends enough…

  • Measuring Beyond Accuracy Saturation

    Nadgir, Kapoor, … Narayanan (Princeton-led, 14 authors, arXiv 2606.26158): when a benchmark's accuracy saturates (top a…

  • METR

    Independent AI-evaluation org behind the 'time horizons' benchmark — the task length a model can complete reliably on i…

  • Evals & Benchmarks

    Map of Content for the evals-and-benchmarks domain — 11 concepts. The science of measuring models: benchmark validity,…

  • Mythos Model

    Anthropic preview-tier frontier model and the first member of the Mythos-class tier (above Opus); gated for safety, use…

  • Open Questions Backlog

    _396 actionable open questions across 155 pages · 79 predictions · 9 notes · 21 in progress · 59 watching (entities), a…

  • The Open-Weight Frontier Gap

    Arena Text, June 2026: the top closed model leads the best open model by 33 Elo and the best *dense* open model by 57;…

  • Parallel Agent Orchestration

    OpenAI Codex study's concurrency + runtime margins: the intensive-user workflow where a human oversees a team of agents…

  • Planning / Execution Division of Labor

    Anthropic's 400K-session telemetry: in a typical Claude Code session humans make ~70% of planning decisions (what to do…

  • Production-Sourced Evaluation

    Building benchmarks from de-identified real production usage rather than synthetic or hand-authored tasks; DRACO's cent…

  • Recursive Self-Improvement

    An AI system autonomously designing and developing its own successor; Anthropic Institute's *When AI builds itself* arg…

  • Repository Exploration Subagent

    FastContext's thesis that repository exploration (read/search/localization) should be decoupled from solving into a ded…

  • The Bitter Lesson

    Sutton 2019: scaled general methods beat hand-engineered structure; recurring justification across the wiki for dissolv…

  • The Three Loops of AI-Native Building

    Andrew Ng's nested-loop taxonomy for 0-to-1 products: the agentic coding loop (minutes, agent-closed), the developer fe…

  • UK AI Security Institute

    UK government AI-evaluation body (Science of Evaluation team); its July 2026 test-time-compute study is the first indep…

Related articles
  • Open Questions Backlog

    _396 actionable open questions across 155 pages · 79 predictions · 9 notes · 21 in progress · 59 watching (entities), a…

  • Responsible Scaling Policy Evaluations

    Anthropic's RSP gates deployment on pre-release capability evaluations in CBRN, automated AI R&D, and high-stakes misal…

  • Harness Shrinkage as Models Improve

    Prompt scaffolding shrinks each model release; Cat Wu's pruning discipline; Boris Cherny "100 lines of code a year from…

  • Anthropic

    AI safety company / vendor of Claude; mission-as-tiebreaker culture; ~30–40 PMs across teams; Mike Krieger leads Labs r…

  • Recursive Self-Improvement

    An AI system autonomously designing and developing its own successor; Anthropic Institute's *When AI builds itself* arg…