纷享销客企业级 SaaS 服务AI Agent 平台落地实践

1. 演讲人：王毅

2. 纷享销客智能CRM创领者，中国ToB SaaS CRM的领先品牌。以智能型CRM为特色，通过连接业务、连接人、连接系统，帮助企业实现以客户为中心的，企业内部和上下游业务的高效协作。使命愿景价值观纷享销客坚持行业深耕战略，为高科技、现代服务、快消、农牧、制造等行业的大中型企业，提供深度行业化的产品、方案和服务，助力企业建设营销、销售、服务一体化、数字化、智用创新科技和行成为最可信赖的以客户成功定义成能化的平台能力和经营能力。业智慧赋能企业 CRM云厂商，客功开放纯粹，创增长户、伙伴、员工变，保持韧性，持的同行者！续进化专业匠心，公司创立于2011年，十余年积累，厚积薄发，目前已经为招商局集团、海信集团、神州数码、东软集团、振德医疗、欧普照明、元气森林、好丽友、牧原股份、恒兴集团等6000多家大中型企业提供数字化增长服务。实用创新用成长驱动增长。

3. 01 生成式 AI 企业领域落地的建设思考 02 纷享销客 AI Agent 平台简介 03 纷享销客 AI Agent 平台落地趟坑之旅 04 思考与展望

4.

5. 01 生成式 AI 企业领域落地的建设思考

6. 企业级AI场景特点业务化确定性对场景实时洞察，理解业务逻辑，实现作业闭环企业级 AI 能做的事情，要的是准确与确定个性化客户千企千面个性诉求，提供足够开放的定制化能力安全性功能权限，数据权限可追溯与审计 VS 个人级AI场景特点综合性强无特定业务，终极目标是 AGI 高容错错误与幻觉只影响个人开箱即用最好什么都不必用户配置无严苛权限符合数据隐私保护即可

7. 打造深度融合行业智慧、场景智慧、CRM全域数据、安全可信的企业级Agent平台企业级AI 行业型AI 赋能型AI 可信赖AI 灵活定制Agent矩阵紧密融合业务智慧全场景业务赋能提效强化数据安全和隐私管理 • 支持公有及私有多模型接入，场景级选配专属模型 • 融合行业知识与业务数据，提供切实可行增长策略 • 营销智能助力精准触达，赋能高效客户转化 • AI数据使用权限采用和 CRM 业务数据一体化的权限机制 • Agent支持灵活定制编排，敏捷构建场景化Agent • AI能力融入行业核心场景，业务赋能提效无时不在 • 销售智能挖掘客户价值，促进企业智慧赢单 • 严格执行AI数据零留存机制，保障企业数据安全 • RAG支持多形态知识便捷接入，知识高效融入业务 • AI加持行业BI数据洞察，精确归因加速智能决策 • 服务智能高效响应客户，提升效率和忠诚度 • 支持敏感数据掩码、毒性管理、 AI审计日志，打造可信任AI

8. 02 纷享销客 AI Agent 平台简介

9. 营销 AI应用层销售 7x24小时智能客服智能货架盘点消费品开发平台客户互动Agent 在线客服Copilot 智能排线代码审查智能销售Agent 现场服务Agent AI机会点推荐代码优化官网智能获客情报洞察营销物料智能生产智能营销Agent ShareAgent Capability Builder AI平台层 ShareInsights Prompt Builder 高阶能力 Generative AI 服务 Agent Builder Prompt Template 基础能力 Text Completion ShareCodes Topics Builder Knowledge Base RAG Embedding 代码生成 Search Index Builder Actions Image Creation ShareVision BYO Model Builder Agent Predictive AI Function Call OpenAI DeepSeek AI基础设施层存储 VectorDB 开源LLM模型 … Qwen DeepSeek Coder ElasticSearch 纷享私有LLM模型 … 租户私有大模型租户私有 DeepSeek Share-Coder MongoDB 实体检测人脸识别决策树机器学习 Supervised and Unsupervised LLM&Embedding Model Gateway 商用LLM大模型 Predictive Model Builder PaaS 平台元数据 Embedding向量模型 OpenAI Embedding Bge 对象预测式模型 XGBoost 流程 YOLO

10. Topic（场景）：定义 Agent 在具体场景需要完成的工作

11. ShareAgent 支持业务灵活接入 • Agent - Topic - Action 三层结构 • 灵活配置场景化Agent Reasoning Engine 可靠性 • 结构化提示词，多轮对话、上下文记忆 Action 开放性 • 支持RAG，Flow，APL，Prompt Template Actions • AI + 流程 + 编程，相互支撑和驱动

12. 企信 IM 数字员工

13. 03 纷享销客 AI Agent 平台落地趟坑之旅

14. • 挑战一：绕不过去的 RAG • 挑战二：如何避免做成 “人工智障” • 挑战三：如何支撑（“伺候”）好纷享各业务团队进行场景落地 • 挑战四：真实客户项目要求更高

15. 挑战要不要自己做 RAG？ • •

16. Semantic Search Index：语义检索索引，将任意 CRM 对象创建为索引，用于 RAG 语义召回

17. • 语义检索索引，以纷享销客CRM对象作为数据源，支持基于CRM数据权限的检索召回引擎；

18. 影响 RAG 效果的主要因素： • • • 决定召回效果 • • • • 决定内容生成效果

19. 多路召回中，「标题路」对最终召回命中率提升效果非常好 • • 从数据模型中，选取具备代表性字段作为「标题路」对最终召回命中率提升 5-10%

20. Chunk 切分策略：以保证语义连贯性作为策略导向 • • • 固定长度切分 + 重叠策略 - 破坏语义连贯性大模型生成 Chunk 摘要增强策略 - 慢、丢失信息大小 Chunk 策略 - 效果不及预期 • • Chunk 大小：512-1024 切分策略 • 纯文本，优先按照“\n\n”、“\n”、“。”等分隔符进行 Chunk 切分； • 结构化文本，优先按照一二级标题整段进行 Chunk 切分；

21. 处理原则：在保证 Chunk 语义连贯性基础上，选择合适的方式，将有效的内容进行提取 • • • Excel， PDF，VLMs 图像多模态模型提取效果已经比肩传统 Pipeline 方案 PPT， Word 文档 Excel 文档 PDF 文档 PPT 文档

22. 挑战

23. • • Function Call NoSkill/NoAction 时用知识库/大模型兜底 • • 多次 Function Call 调用耗时极长，无法忍受不支持的任务胡说八道，完全不可信

24. • • • 手搓「ReAct Prompt」支持多步任务规划增加 Topic 层明确场景范围与指令要求预置 SmallTalk/OffTopic 等系统级 Topic • • • • 不支持的任务就明确告诉用户做不到 SmallTalk 让 Agent 可以跟用户闲聊预置安全类 Topic 直接拦掉用户非法输入一次 Make Plan 后规划出多次本地 Function 执行，最大程度减少 LLM 调用支持危险操作二次确认、缺少输入提示端到端 SSE 让体验再上一个台阶 • •

25. 挑战背景： • • • • 业务操作 API 开放要求，必须能够让业务方便、快捷、可复用的方式开放 API 到平台；交互多样化要求，传统文本消息是不够的，Chat模式也是不够的；效果要求，必须得能感知所在场景，能自动纠错；兜底能力要求，通用的数据操作能力得提供；

26. 解决方案：通过「统一操作中心」，进行上层业务操作 API 注册与开放 • • • 接口定义，通过 JSON Schema 描述操作 API 定义；交互定义，通过 Agent Artifact(制品) 协议，扩展多样化类型的渲染交互方式；参数类型定义，在基础数据类型基础上，扩展特有复合类型数据类型；

27. Agent Chat 组件 Agent Insight 组件

28. 解决方案：遵循 Context Engineering 原理，把恰当场景上下文给到 Prompt。 • • • • • • • • User Input System Instructions & Rules Agent/Topic Instuctions Messages History（Short-Term Memory） • • • • Functions Definition（Tools） Function Calling Result Structured Output

29. 解决方案：遵循 Context Engineering 原理，把恰当场景上下文给到 Prompt。 • • • • • • • • User Input System Instructions & Rules Agent/Topic Instuctions Messages History（Short-Term Memory） • • • • Functions Definition（Tools） Function Calling Result Structured Output

30. 解决方案：建设 QueryRecords、CreateRecord 等通用CRM 对象数据操作 Action，开箱给业务与用户使用。 Query Rewrite： • 改写标准查询 • 提取条件、表、选项值等关键信息 Retrieval 多路召回 • query • 对象/字段 • 选项值 Prompt Context： • 对象 metadata • 场景上下文 • 对象个性化 fewshot Post Process： • 数据纠错 • 人员/部门等字段 • 日期时间要点： • SQL通过语法树解析回可控的 SearchQuery • DataQuery天然具备数据权限

31. 挑战项目背景： • • • • 知识准确性要求，原始知识包含各种格式文档/甚至图片，对Agent回答内容造成一定干扰；生成答案格式要求，小标题必须加粗，英文场景下必须都是半角字符等；语言要求，必须要能支持海外不同国家用户的语言，最好是输入什么语言、输出就是什么语言；性能要求，必须在 3s 内开始输出内容；

32. 解决方案：RAG 索引开放分层分级的文本提取策略 • • 分级颗粒度 • 索引粒度 • 字段粒度 • 数据粒度文本提取策略 • 开放设置是否识别图片内容 • 开放 Excel 表格识别模式

33. 解决方案：通过开放知识库提示词，允许对生成内容要求进行干预 Before After

34. 解决方案：提示词自适应不稳定情况下，增加语言识别模块，强制要求输出语言 Before After

35. 解决方案：全链路 SSE 流式处理 + 并行执行 + 跳过非必要 Planning 环节 Before 0.5-0.8s + 1.5-2s + 2.5-3s = • • 全链路 SSE 流式处理 • Planning 环节，减少 1.5-2s • Knowledage Action 环节，减少 5-30s 并行执行 + 跳过 Plannning • After max(TopicClassify, KNAction) = 整体减少 2s

36. 04

37. • • Agents as Tools（Actions） Agents hand off to Agents（with SessionContext） • • External，A2A Protocal Internal，A2A Extented Protocal（扩展纷享交互卡片）

38. 必须体现与度量在下推理效果

39. • 开发模式与传统软件完全不同 • 提示词的重要性最终效果有一半取决于提示词，提示词工程、上下文工程是每一位研发同学的必备技能 • 能不能用、好不好用，上层业务说了算，客户说了算避免自嗨，紧贴业务/客户场景，适当多走「半步」

40. • 大模型能力一定越来越强，我们应该把精力放在哪里？ • 企业服务领域下，类似 Deep Research、Manus 这样的 Agent 技术要不要引入？

41.

42.