H
Howardism
Plate IIEntities機器翻譯 · machine-translatedENHOWARDISM

FastContext

Microsoft CoreAI + Shanghai Jiao Tong University 的開源 儲存庫探索子代理(2026 年 6 月):訓練出以 Qwen 為基礎的 4B–30B 探索器(Read/Glob/Grep、平行執行、精簡的檔案行號引用),將儲存庫搜尋與問題解決分離;SWE-bench 解決率最高提升 5.5%,主代理 token 用量最高減少 60%;程式碼與資料已發布

Article metadata
Publication details
Published:June 16, 2026
Filed:Entity
Domain:Entities
Tags:EntitySystemMicrosoftAgent Engineering
Reading:3 min
Source:AI-synthesised
About this piece

Articles in this journal are synthesised by AI agents from a curated wiki and are refreshed automatically as new concepts arrive. Topics, framing, and editorial direction are curated by Howardism.

FastContext 插圖

資料來源#

摘要#

FastContext 是一款開源的程式碼代理儲存庫探索子代理,由 Microsoft CoreAI 和 Shanghai Jiao Tong University 的 Shaoqiu Zhang、Maoquan Wang、Yuling Shi 等人開發(arXiv 2606.14066,2026 年 6 月;通訊作者 Shengyu Fu)。它是儲存庫探索子代理論點的系統實例:一個專門的唯讀助手,由主代理按需呼叫來定位程式碼,並回傳精簡的 path:line-range 引用,而不是冗長的探索過程。整合至 Mini-SWE-Agent,搭配 GPT-5.4、GLM-5.1 和 Kimi-K2.6 主代理後,端對端問題解決率最高提升 5.5%,同時主代理 token 用量最高減少 60%。程式碼與資料:github.com/microsoft/fastcontext。

這是什麼#

一個執行階段 CLI 助手(fastcontext -q "..." --format concise),與主代理在同一個任務容器中執行。它只提供三種與語言無關的唯讀工具——READ、GLOB、GREP(ripgrep)——每輪平行發出工具呼叫,並輸出單一 <final_answer> 區塊,內容為檔案路徑與行號範圍。它無法編輯檔案或提交修補程式;只有最終證據區塊會進入主代理的上下文,中間觀察則寫入獨立的日誌。

模型系列#

專門訓練的探索器採用 Qwen 骨幹模型,規模涵蓋 4B–30B:

變體骨幹模型訓練方式角色
FC-4B-SFTQwen3-4B-Instruct僅 SFT精簡基準
FC-4B-RLQwen3-4B-InstructSFT → GRPO RL部署目標——在數種設定下勝過 30B-SFT
FC-30B-SFTQwen3-Coder-30BA3B僅 SFT規模擴展參考

4B 模型是部署目標,因為探索必須便宜到足以常態執行;4B-RL 是最重要的成果——以任務為基礎的 RL 讓精簡探索器具備競爭力,無須耗費資源進行昂貴的 30B RL 訓練。

訓練架構#

  • **SFT 資料:**來自 Sonnet 4.6(Anthropic,作為參考模型)的 2,954 條篩選後軌跡,分為 parallel_toolcalls/multiturn_traj/linerange 來源。使用 Slime/Megatron 架構訓練,共 3 個 epoch,僅對 assistant token 計算損失,上下文長度為 128K。
  • **RL:**以 400 個提示/395 個儲存庫進行 GRPO,獎勵由修補程式推導的檔案/行號 F1、受限平行度加分與格式懲罰組成;透過 SGLang 產生 rollout(停用思考,最多 8 輪,每個提示 16 條軌跡)。

意義#

FastContext 是 Claude Code、Codex、GitHub Copilot CLI 和 Cursor 中專有子代理機制的開源且已發布的對應方案。其明確動機是,這些探索機制都不公開,使研究社群缺少開放的訓練與評估方法。它最有力的論點是:即使沒有經過訓練的模型,探索與解題在架構上的分離本身也能帶來大部分效益(「同模型探索」基準已經有幫助),讓探索成為程式碼代理中可模組化、可最佳化且能獨立評估的階段。

相關連結#

  • 儲存庫探索子代理——FastContext 實現的概念(瓶頸分析、委派契約、訓練方法、成果)
  • Claude Code——FastContext 將其專有子代理類比方案開源
  • Anthropic——Sonnet 4.6 是參考模型,其軌跡為 FastContext 的 SFT 語料提供起始資料
  • Symphony——另一個模組化代理系統(以票單驅動的編排與探索委派)
  • Client-Side Agent Optimization——FC 為各角色訓練專用小模型的做法,延伸了 AgentOpt 依角色最佳化模型的思路

開放問題#

  • SFT+RL 方法能否將探索器縮小至 4B 以下(1.7B/0.6B),讓探索幾乎不花成本?
  • 這項增益能否從 Mini-SWE-Agent 延伸至具有自身子代理編排機制、功能更豐富的 harness?

資料來源#

§ end
Cited by 7
Related articles
  • Context Lifecycle Management

    Treating an agent's active context as indexed runtime objects with a lifecycle (fold/mask/prune, recoverable sidecars,…

  • Deep Research Agents

    Agentic systems that decompose a complex query, iteratively search diverse sources, and synthesize a structured, cited…

  • Repository Exploration Subagent

    FastContext's thesis that repository exploration (read/search/localization) should be decoupled from solving into a ded…

  • Agent Harness Engineering

    Patterns for scaffolding long-running LLM agents: environment design, progressive context disclosure, mechanical archit…

  • LLM-as-Compiler Knowledge Base

    Karpathy's architecture: LLM incrementally compiles raw docs into a persistent interlinked wiki, replacing RAG with a 4…