一次检索看不到中间计算(超不超上限、有没有特批)所需的下一步证据。根因是静态 top-k 无法依赖中间状态。本方法按计划–执行–观察循环调用检索与工具。必须卡步数、预算、超时;它不是默认架构。
本文属于 RAG 工程框架中的「4 生成与智能体编排」环节,聚焦「Agentic RAG」方法。
定位
| 维度 | 内容 |
|---|---|
| 角色 | 带状态的工具循环 |
| 输入 → 输出 | task → 多步观察 → 最终答案(或超时失败) |
| 默认组合 | LangGraph(可控);LlamaIndex Agent |
| 何时不用 | 单跳问答;默认生产路径 |
核心机制
循环:$\mathrm{action}t=\mathrm{Plan}(\mathrm{state}{t-1})$,直到 done 或 $t>T$ 或 token $>B$。
实现路径与心智:planner 根据当前 state 选工具(检索/计算),观察写回 state,直到完成或打到步数/token/超时上限。底层心智:检索参数依赖上一跳观察,不是固定 top-k。三重约束是控制面,缺一就会震荡或越权。
优缺点
- 优点:多步比对、计算类任务鲁棒。
- 缺点:成本与不确定性高。
契约与走通样例
输入
1 | {"task": "Is 30 nM GAPDH siRNA for 24 h matching the protocol?", "max_steps": 6} |
中间量
步1 retrieve → 20 nM / 48 h;步2 calc 30>20;步3 再检索 exception → 无。步4 结论不合规。token 2400 < 6000。
输出
1 | {"answer": "No. Protocol is 20 nM for 48 h.", "citations": [{"doc_id": "P-GAPDH-01-C1"}], "steps": 4} |
社区实现
LangGraph。风险:工具权限过大误写;检索到旧版论文。
工程落地
最小可运行示例
复制为 .py 后直接运行(仅标准库)。生产循环用 LangGraph StateGraph;工具必须只读 allowlist。
1 | """计划-执行-观察;步数与 token 预算是硬停止条件。""" |
参数
| 参数 | 起点 | 影响 |
|---|---|---|
max_steps |
6 | 防震荡 |
per_step_timeout_ms |
2500 | 防单工具挂死 |
tool_allowlist |
只读检索+计算 | 禁止写接口 |
失效—信号—螺丝
- 旧版证据:后续全错。螺丝:state 写入
doc_id+version。 - 步数耗尽:螺丝:降分支、加超时。
- 工具过权:螺丝:allowlist。
规模(100 篇生物学 PDF)
单次复杂任务 30 s–数 min;批评测可达数 GPU·h。GPU 16–48 GB 或 API 累加。