大模型+数据资产变现，RAG 驱动企业智能化实践案例

1. 演讲人：黄佳

2. 黄佳研究员 / 技术图书作者 / 极客时间专栏作者《极客时间 LangChain实战课》《极客时间 RAG进阶训练营》极客时间 RAG 训练营 Visuals Support:

3. 01 为什么我们仍然在谈论RAG 02 RAG落地痛点及优化思路 03 企业文档合规性问答系统落地实践 04 医疗术语标准化系统的落地实践 05 知识图谱在医疗术语标准化系统中的应用 06 MCP和A2A时代的RAG

4.

5. 01

6. ——

7. 1. 人类与大模型直接对话 3. 大模型进行自主推理 2. 大模型进行知识检索

8.

9.

10.

11. 02

12. 落地难点文档的导入和解析（图、表）如何将相关联的内容整体切片或建立起相关联的索引如何处理大规模、分布式向量数据的精细化设计如何构建程序代码的检索系统图数据库和知识图谱和系统的结合如何设计有权限的系统

13. 系统图系问问 RAG 问性问性进行文档合问问问问问问问性文档问图答问文系大模型问大模型实问实性性文档时文档寻找瓶颈点合时大模型文档文档图模专模型答进行专文答模型者模文文文文档模

14. 03

15. Sustainability Report ESG 1. E 1. 2. 3. 2. Scope 1, Scope 2, Scope 3 S 1. 2. 3. 3. D&I G 1. 2. 3. Sustainability Report GRI

16. + • • PDF • • • • • • • 缺乏统缺少高有效难追踪统难持续真实与改进准 • 与文档导入索引设计如何评估指标体系致闭环系

17. 文档预处理模块文档入库提取元数据信息文档切块嵌入向量数据库索引预处理Agent 政策法规合规文档技术文档 API文档财务报表年报文档技术白皮书（公式/图形）

18. 文档加载器 PyPDF Unstructured 说明使使 Unstructured 使 Amazon Textract MathPix pypdf 使开 AWS API MathPix Package/API 特点 PDF文件 Package 高效轻合简单PDF文档兼容种文档格支持内容取 PDF文件 Package/API PDF文件 PDF文件 API API PDFPlumber PyPDFDirectry 使 PDFPlumber PDF文件目录 PDF文件 Package Package PyPDFium2 使 PyPDFium2 Package PDF文件 PyMuPDF 使 PyMuPDF PDF文件 Package PDFMiner 使 PDFMiner PDF文件 Package 云服务支持合大批文档 OCR 专为学公计准内容丰富 PDF内容控制功批便个PDF文档高效支持PDF页面渲染换速支持 PDF 细合文抽取文 PDF 内容

19.

20. from langchain_unstructured import UnstructuredLoader 除Markdown之外，我还需要构建一套索引系统 from typing import List from langchain_core.documents import Document page_url = "https://zh.wikipedia.org/wiki/黑神话：悟空" def _get_setup_docs_from_url(url: str) -> List[Document]: loader = UnstructuredLoader(web_url=url) setup_docs = [] # parent_id = None # 初始化 parent_id # current_parent = None # 用于存储当前父元素 for doc in loader.load(): # 检查是否是 Title 或 Table if doc.metadata["category"] == "Title" or doc.metadata["category"] == "Table": parent_id = doc.metadata["element_id"] current_parent = doc # 更新当前父元素 setup_docs.append(doc) elif doc.metadata.get("parent_id") == parent_id: setup_docs.append((current_parent, doc)) # 将父元素和子元素一起存储 return setup_docs

21. PDF SimpleDirectoryReader SentenceSplitter

22.

23. 系统图系问问问性问性进行文档合问问问问问问问性文档问图答问文系寻找瓶颈点大模型问大模型实问实性性文档时文档合时大模型文档文档图模专模型答进行专文答模型者模文文文文档模

24.

25.

26.

27. 1. 构建两个向量数据库（Summary 和 Details），通过 Metadata进行链接 2. 通过LlamaIndex的IndexNode和PandasQueryEngine 3. 也可以通过查询先检索相关表名，然后做Text2SQL 4. 对于这个例子，也可以提取年份，用元数据进行Filter

28. 思路1：元数据提取 Year = 2023 思路2：直接检索Summary节点 2023年的碳排量 2024年的碳排量 2025年的碳排量

29. 系统图系问问问性问性进行文档合问问问问问问问性文档问图答问文系寻找瓶颈点大模型问大模型实问实性性文档时文档合时大模型文档文档图模专模型答进行专文答模型者模文文文文档模

30. • • 实实性性

31.

32.

33.

34. • • • F1 • • • P@K • BLEU • ROUGE • METEOR

35. 系统图系问问问性问性进行文档合问问问问问问问性文档问图答问文系寻找瓶颈点大模型问大模型实问实性性文档时文档合时大模型文档文档图模专模型答进行专文答模型者模文文文文档模

36. 04

37. 系统医院内存在多种电子病历系统与数据标准临床医生使用非标准化术语记录病情医疗数据分析需要统一术语标准以提高准确性术录者高化时核心挑战 • 专业术语多样性：同义词、缩写、俚语并存 • 领域知识壁垒：需要专业医学背景解读上下文 • 系统适应性：需应对不同科室、不同记录习惯 • 实时性要求：诊疗过程中需快速响应性性难关化难的者性高时难难

38. 尿病种有标个关系为尿病关系识尿病 IS A 代谢性疾病种有标为有个有标个为标为“ ” 少有 73211009 疾病限种个种少有个系个IS_A 系个件标有个关系个种有有性性系系

39.

40. 05

41. 找某学 “部位” “ 所有性系 ” “因 ” 因果关系获取个学所有语义网络文获取个学概念和属性性。

42.

43. 系统图系问问问性问性进行文档合问问问问问问问性文档问图答问文系寻找突破口大模型问大模型实问实性性文档时文档合时大模型文档文档图模专模型答进行专文答模型者模文文文文档模

44. 06

45. RAG RAG • LLM Agent RAG • MCP: / Agent " " Agent • A2A: Agent Agent " " Agent RAG RAG 在这个生态中既是连接 LLM 与外部海量知识的纽带（通过 MCP 的“手”），也是多 Agent 协作时的信息载体（通过 A2A 的“嘴”） RAG

46.

47. 探索 AI 应用边界 Explore the limits of AI applications