Agentic RAG 的现在与未来——从使⽤⼯具到重构知识系统

1. Agentic RAG 的现在与未来 & CTO

2.

3. 我介绍

4. 那些年，我们做过的 RAG Retrieval-Augmented Generation（RAG）是当前 LLM 应中的核技术之。 knowledge chunks embedding model Database vector embedding model query context vector LLM answer offline process

5. 问题上下重写/指代消除 Agentic RAG 是什么意思对话内容 LLM query Database context …… …… …… 常的 RAG 技术都有什么 Agentic RAG…… 这个技术是什么意思 LLM answer

6. 混合检索+检索重排 embedding model top-50 vector search vector Database context keyword search rerank model query LLM answer new context top-10

7. Context is the Key 上下是关键

8. AI 应的进步就是上下管理的进步

9. Agentic RAG

10. 录 01 Agentic RAG 的基本范式 02 Agentic RAG 的系统架构 03 Agentic RAG 的进化 04 案例分享 05 Q&A 向

11. 01 Agentic RAG 的基本范式从程序化检索到性化认知

12. 从过去 AI 发展得到的经验成成次成 ReAct ｜ COT 快思考作流慢思考 Agent

13. 从过去 AI 发展得到的经验快思考作流慢思考 Agent 类的做事式

14. Agentic RAG 的本质变化让 AI 完成部分任务让 AI 完成全部任务：决定如何检索

15. 普通 RAG vs Agentic RAG 较稳定，相对较快 Agentic RAG 动态流程：Agent 具备计划与执多轮检索策略，可能我反思检索效果 Agent 可根据任务主动选择相关 chunk 度可扩展，可接更多具和策略可维护性较弱，Agent 计划不可控，调试和定位问题相对困难落地复杂度，消耗更多 token 和计算资源响应速度不稳定，根据不同情况时快时慢

16. 场景适配策略与设计考量场景特征 ✅ 1. 根据任务复杂度来判断使问题范围明确、问题类型单、信息集中问题范围模糊、问题类型不可预测、信息分散信息特征 ✅ 2. 根据信息结构来判断单集中化（如内部异构 + 多源（如档、规章制度）、报告、图对准确率要求不 Agentic RAG：可规划推理、动态检索、数据库）策略普通 RAG 更擅 Agentic RAG 可使快速定位答案具理解和串联多种内容推荐，成本要求对准确率和理解使普通 RAG：轻量、响应快使需求 ✅ 3. 根据准确率/成本要求来判断使策略要求选择普通 RAG（Fast + Simple） Agentic RAG 更智能，更精细但成本更

17. 场景适配策略与设计考量成回答 0.5-1s 1-2s

18. Agentic RAG & 语通话流程稍等我查成下信息检索参数 1-2s 等待 LLM 搜索流式输出成 token

19. 02 Agentic RAG 的系统架构从架构搭建到策略调优

20. 系统架构概览可

21. 系统架构概览模型查询 API 接

22. 系统架构概览联查询 API 接

23. 具调不是串联起来的复合功能，清晰应场景查询、分析结构化数据获取最新外部知识读取报告、合同等档内容数值计算、代码执内部系统联动

24. 系统可调参数 • 推理轮数上限（max steps） • 单任务执超时时间（timeout seconds） • 是否开启反思机制（reflection enabled） • 任务分解策略（ReAct，rule-based） • 重试限制（retry limit） • 失败回退策略（cancel，default value） • 上下共享策略（context sharing）

25. 当前架构限制 Agent 当下还不够成熟，些具调可能存在参数错误，调结果等情况，造成调速度慢成本死循环死循环险

26. 03 Agentic RAG 的进化优化从问答增强到系统向

27. 索引期的智能优化，是怎么管理知识的？

28. 索引期的智能优化个录，

29. 索引期的智能优化通过 Agent 式扩展知识，让整体知识能够被检索知识 chunk chunk chunk chunk Agent 概括总结 DB 整体问答 1 整体问答 2

30. 更多对象。

31. 记忆系统

32. 检索反馈索引的迭代如何在 Agentic RAG 体系中引 Pre-Train 预训练续训练的思路？ Post-Train 后训练 Continuous-Train 续训练

33. 检索反馈索引的迭代索引期 embedding model knowledge vector Database 检索期 embedding model vector context LLM query answer

34. 检索反馈索引的 query LLM 记总结笔记（异步执迭代 - 记笔记 tool call tool retrieved data tool retrieved data tool call answer LLM ） query LLM tool call tool retrieved data tool call tool retrieved data LLM Agent with flag: unreviewed 笔记知识 Database answer

35. 检索反馈索引的 query LLM 记过程笔记（异步执迭代 - 记笔记 tool call tool retrieved data LLM 知识缺失记录缓存 tool retrieved data ） Agent tool call 具数据 Database answer

36. 04 案例分享从想法到真实落地

37. 企业报表数据检索 CRM 具查找同期客

38. Recap

39. Recap

40. AI 做事，我做具

41.

42. THANKS 模型正在重新定义软件 Large Language Model Is Redefining The Software