資料來源#
摘要#
深度研究代理是一種代理式 AI 系統,接收複雜且開放式的查詢,並:(1) 將其拆解為構成性的子工作流程,(2) 反覆搜尋多元外部來源,以及 (3) 將蒐集到的證據綜合成結構化、附帶引用的報告。不同於單次問答,它會把多步驟規劃與推理,和自主檢索及評估交錯進行——驗證主張、解決相互衝突的證據,並找出文獻中的缺口。其產出是一份分析;若由人類專家製作,否則需要投入大量時間與精力。這正是 DRACO(Perplexity,2026 年 2 月)建立來評估的系統類別,而它所基準測試的四個 production 系統——Perplexity Deep Research、OpenAI Deep Research、Gemini Deep Research,以及搭配網頁搜尋與程式碼執行工具的 Claude Opus——就是其中的典型實例。
與單次 QA 的模式比較#
| 單次 QA | 深度研究代理 | |
|---|---|---|
| 規劃 | 無/隱含 | 明確將查詢拆解為子工作流程 |
| 檢索 | 一次處理(或無) | 反覆、多來源、自主進行 |
| 推理 | 在單次生成內完成 | 多步驟;驗證、解決衝突、找出缺口 |
| 輸出 | 一個答案 | 結構化且附帶引用的報告 |
| 取代的工作量 | 一次查找 | 數小時的人類專家研究 |
在知識密集型領域——學術研究、醫療決策支援、法律分析、金融分析——深度研究日益成為不可或缺的基礎,因為這些領域要求針對大型、異質語料庫進行全面、深入、透明且可驗證的推理。
編排勝過裸模型(DRACO 的發現)#
對本 wiki 最具影響力的結果是:在 DRACO 上,Perplexity Deep Research(以 Opus 4.5 / 4.6 為基礎)大幅勝過單獨使用 Claude Opus 4.5 / 4.6 並搭配 web_search 與 code_execution 工具的結果——在 4.6 配對中,正規化分數為 70.5% 對 59.8%。同一個基礎模型套上專為檢索與綜合打造的 harness 後,便增加了約 10 個百分點。論文自己的解讀是:這顯示「超越基礎模型的代理編排的重要性」。
這是對 Harness Shrinkage as Models Improve 的即時反向資料點。本 wiki 一再主張,隨著模型進步,腳手架會縮小,而機械式驗證仍是不可或缺的部分。深度研究是截至 2026 年初,harness 仍承載系統品質中一大且可測量部分的領域——編排層(查詢拆解、反覆檢索策略、來源選擇、綜合規範)尚未消融進基礎模型。當模型跨越下一個能力門檻時,它是否會縮小,是仍待回答的問題;DRACO 是目前的測量結果。
驗證是關鍵限制#
在 DRACO 評分的每個系統中,依評分軸向排列的結果都一致:在呈現品質上最強,在事實準確度與引用品質上最弱。流暢度已經解決;可驗證的正確性尚未解決。這是 Verification as the New Bottleneck 在研究產品內部浮現——難點不再是產出可讀的報告,而是確保其中每個主張都為真且有適當來源。這是 AI-Driven Formal Proof Search 的開放領域鏡像;後者由編譯器使驗證成為完整流程,而深度研究沒有這種 oracle,因此準確度/引用成為前沿。
效率:更多 token ≠ 更好#
DRACO 的 token/延遲表打破了「更長、更昂貴的執行就會勝出」這一直覺:
- 最高分者(Perplexity、Opus 4.6)同時也是深度研究系統中延遲最低者(245 秒),儘管它有最大的輸入 token 規模(每項任務約 779k tokens)——偏重輸入的檢索,搭配精簡輸出(約 8.8k tokens)。
- OpenAI o3 與 Gemini 產出的輸出最多(24.9k、22.1k tokens),但分數僅居中——冗長並未換來品質。
- OpenAI o4-mini 整體 token 效率最高(總計約 53.5k),但分數落後(41.9%)。
這種形狀——品質與輸出長度脫鉤,而輸入 token 的支出才是真正發揮作用的部分——是 Client-Side Agent Optimization 中形式化的成本/品質組合取捨(依角色配置模型、預算、路由)在深度研究中的實例:真正重要的槓桿是編排設計,而非原始 token 支出。
它位於何處#
深度研究是長時間跨度、自主、多步驟的任務——正是 Task Time-Horizon Scaling 所測量的範圍——以持續運作的檢索與綜合 harness 執行。這是目前最清楚的案例之一:產品(harness + 編排)顯著比它包裝的模型更有價值;因此,像 DRACO 這種針對系統(而非模型)的基準測試,才是正確的工具,並由 LLM-as-a-judge 根據從真實 production 使用情境建立的專家評分規準進行評分。
相關連結#
- DRACO Benchmark — 為評估此系統類別而建立的基準測試;本文的編排、驗證與效率發現皆源自此處
- Agent Harness Engineering — 深度研究是一種檢索與綜合 harness;「超越基礎模型的編排」結果直接證明此 harness 層不可或缺
- Harness Shrinkage as Models Improve — 反向資料點:在此 harness 尚未縮入模型(編排模型與搭配工具的裸模型之間約有 10pp 差距)
- Verification as the New Bottleneck — 所有系統中事實準確度/引用都是最弱軸向;可驗證的正確性是前沿
- Task Time-Horizon Scaling — 深度研究是長時間跨度的自主任務,正是 METR 時間跨度指標所測量的類型
- Client-Side Agent Optimization — token/延遲取捨(更多輸出 ≠ 更好;編排 > 原始支出)是深度研究中的組合/預算最佳化實例
- LLM-as-a-Judge — DRACO 如何根據任務特定的評分規準評估深度研究輸出
- Production-Sourced Evaluation — DRACO 的任務來源(取自真實 Perplexity Deep Research 流量),使基準測試反映實際使用情境
- AI-Driven Formal Proof Search — 驗證完整性的對比:健全的驗證器能消除深度研究無法消除的準確度落差
- Perplexity — 領先深度研究系統與 DRACO 的建造者
- Anthropic / Google DeepMind — 受評估系統的製作者(Claude Opus;Gemini Deep Research,以及作為裁判的 Gemini-3-Pro)
- Repository Exploration Subagent — 在 coding agent 內部結構平行:FastContext 將任務拆解為探索 + 解題,並將反覆搜尋隔離在精簡的綜合回傳之後——深度研究應用於網路的同一種拆解→搜尋→綜合形狀
開放問題#
- 隨著基礎模型跨越下一個門檻,編排優勢會縮小嗎?還是開放式檢索/綜合是一項持久的 harness 資產(不像提示腳手架)?
- DRACO 只評估單輪互動。真實深度研究的價值有多少來自基準測試尚未測量的多輪迴圈(澄清問題、後續追問)?
- 事實準確度在各處都是薄弱軸向——解法是更好的檢索、更好的迴圈內驗證,還是像 Lean 為證明搜尋提供依據那樣,以工具為基礎的檢查?
資料來源#
- DRACO: a Cross-Domain Benchmark for Deep Research Accuracy, Completeness, and Objectivity — §1(深度研究的定義)、§5(評估系統;超越基礎模型的編排發現;token/延遲表;各軸向結果)
Cited by 24
- DRACO Benchmark×3
Deep Research Agents — the system class DRACO evaluates; home of the orchestration / verification /…
- Open Questions Backlog×3
Deep Research Agents ×2 (oldest 58d) — DRACO grades single-turn interactions only. How much of real…
- Perplexity×3
Perplexity is an AI answer-engine / search company. In this corpus it appears as the author of the…
- Document Parsing as the Retrieval Bottleneck×2
The deck's answer to "what do you wire around a document the agent can actually read" is LlamaIndex…
- Open-Ended Discovery Harnesses×2
Deep Research Agents — the same word, a different system class: query decomposition + web retrieval…
- Production-Sourced Evaluation×2
Production-sourced evaluation builds a benchmark from real, de-identified usage of a deployed…
- Agent Data Injection (ADI)
Deep Research Agents — the failure that survives every defense on this page, and the reason to keep…
- Agent Harness Engineering
Deep Research Agents — a retrieval-and-synthesis harness where orchestration stays load-bearing:…
- AI-Driven Formal Proof Search
Deep Research Agents — the no-instant-verifier sibling in open-domain research: factual accuracy is…
- Automated Failure Attribution
Deep Research Agents — the same injection-for-golden-labels method used to get attribution for…
- Client-Side Agent Optimization
Deep Research Agents — DRACO's token/latency table is this cost/quality framing in the…
- Context Lifecycle Management
Deep Research Agents — the workload the Hard Set is drawn from (browser, shell, web-fetch traces…
- Crystallizing Agent Work into Workflows
Parallelism is declarative. send_event fans out (a step emitting N events of one type runs N…
- Failures That Look Like Success
Deep Research Agents — the class at the level of a whole research report, and the one instance…
- Layerwise Omission Attribution
Deep Research Agents — the pipeline shape at its most exposed: decompose, retrieve iteratively…
- LlamaIndex
Deep Research Agents — deep research shipped as one of four reference Workflow patterns (decompose…
- LLM-as-a-Judge
Deep Research Agents — the system class DRACO grades this way
- LLM-Assisted Grey-Literature Theory Building
Deep Research Agents — the corpus-quality risk this pipeline runs, measured. MisKnow-Agent (arXiv…
- LLM-Judge Validation
Deep Research Agents — the high end of the agreement range, and what buys it. MisKnow-Agent's FCAR…
- Agent Systems & Harness Engineering
Deep Research Agents — Agentic systems that decompose a complex query, iteratively search diverse…
- Repository Exploration Subagent
Deep Research Agents — structurally parallel: deep-research decomposes a query into search +…
- Self-Propagating Prompt Injection (AI Worms)
Deep Research Agents — the other way an agent corrupts downstream documents, by a completely…
- Stopping Under a Noisy Verifier
Deep Research Agents — β observed in the wild, and the case where the verifier is not noisy at all.…
- Task Time-Horizon Scaling
Deep Research Agents — deep research is a long-horizon autonomous task of exactly the kind this…
Related articles
- Open Questions Backlog
_456 actionable open questions across 205 pages · 107 predictions · 9 notes · 147 in progress · 69 watching (entities),…
- LLM-as-a-Judge
Using one LLM to grade another's outputs against criteria/rubrics; DRACO's protocol is per-criterion binary MET/UNMET +…
- Failures That Look Like Success
The quiet agent-failure class where everything reads fine — confident answer, plausible plan, even correct internal sta…
- Verification as the New Bottleneck
Fiona Fung: coding is no longer the bottleneck — verification, review, maintenance are; shift-left; TDD loses its tax;…
- Context Lifecycle Management
Treating an agent's active context as indexed runtime objects with a lifecycle (fold/mask/prune, recoverable sidecars,…
