腾讯云安灯AI大模型应用实践与探索

1. 腾讯云安灯 AI大模型应用实践与探索许小川@腾讯云安灯

2.

3. 什么是腾讯云安灯源自精益思想基于ITIL4 助力企业丰田生成方式 SaaS 数字化转型引用来源：互联网；axelos官网

4. 什么是腾讯云安灯已构建腾讯云 x 伙伴 x 客户的“协作网络”

5. 什么是腾讯云安灯核心模块业务流程管理 •BPM •ITSM •ITOM •FSM •… 业务场景举例数据可视管理 •离线分析 •在线分析 •BI •看板 •… AI应用提效全渠道接入 •Chatbot •客情感知 •共性识别 •知识管理 •.... •企业微信 •内部服务号 •Slack •TG •Web •WebIM •热线 •... 客户支持管理项目实施管理内部协作管理研发过程管理现场调度管理 …

6. 为什么需要腾讯云安灯业务数字化管理流程数字化 … 工具信息数字化数据引用来源：互联网 …

7. 为什么需要腾讯云安灯以 IM 为例，对比IM“工具”和安灯“管理”上的差异 IM •群太多，应接不暇 •人太多，责任不清 •事太杂，容易跟丢 •效率低，全靠堆人 •无数据，难管理 •… + 安灯 •有优先级/响应时限管理 •有角色管理 •有SLA管理 •有知识管理（借助AI提效） •有质量管理 •…

8. 为什么需要腾讯云安灯从业务数字化管理top-down，构建完善的 AI 应用增强回路 ——“安灯数字化转型飞轮” 加持业务决定 AI 流程注入固化数据 IT 产生

9. AI 的应用和探索以云的客户IT support业务流程为例客户二线一线 n线 AI 应用机会智能建单智能优先级客户画像智能客服安灯Copilot 各种Agent 可视化分析 ……

10. AI应用：智能建单传统的客户和接单人在建单体验问题 “一句话工单”的博弈 “含1量%”高提个工单要码一堆字，让人抓狂！建单人能不能简便点！ • 满是“111111”的工单 • 缺少信息量的结构化 • 难以分析的数据收到“一句话工单”，让人抓狂！能不能详细点！接单人

11. AI应用：智能建单智能摘要，自动填单 • 智能摘要，总结群聊的问题 • 信息结构化，5W2H • 自动填单，减少手输工作 • 基于采纳率的强化学习含1量%：下降 90% CX、EX * 以企业微信群消息建单为例

12. AI应用：智能优先级服务千头万绪传统的优先级矩阵客户满意度提升瓶颈 • 群消息多 • 基于规则 • 满意度进入平台期 • 跟进时间长 • 人工设置 • 距离卓越还有差距 • 需要做优先级排序 • 和客户预期Gap • 追加投入效果不明显 97 97 97 • 进入平台期 CSAT 卓越标杆客户满意度 2020 引用来源：互联网 2021 2022 2023 2024

13. AI应用：智能优先级基于大模型和机器学习的优先级调度 • 基于事 X 人 • 自动设置 • 因人而异满意度提升 15% 投诉率降低 • 兔子的“赶快”和乌龟的 “赶快”，不是一种“快” 24%

14. AI应用：智能助手传统智能客服 “摇人率%”高运营成本高您好，请问有什么可以帮到您？客户一线人工您好，请问有什么可以帮到您？ • 基于 FAQ • 机械式对话 • 多轮对话能力弱人工人工～ 45% 摇人率 • 需要专职团队 • 需长期运营FAQ • 需手工更新

15. AI应用：新一代智能助手，基于大模型的“安灯Copilot” 基于混元+RAG RAG的实现等级简单的检索和生产 RLHF 客户基于关键词相似匹配文档一线上下文检索和生成基于上下文理解相关性过滤/排序动态检索和生成 LLM在生成过程中根据需要动态检索信息多源检索和生成从多个来源检索信息复杂的检索和融合技术知识感知生成结合知识图谱等方式使LLM能推理检索的知识阿里·阿桑贾尼：《GenAI 成熟度模型》

16. AI应用：嵌入业务流程，放大安灯Copilot价值借助安灯业务流程，实现智能分身串联 … 客户张e三张三像极了“特斯拉阀” 李e四李四王e五王五 —— 吴昊 “1个好机制胜过10000遍日常管理” 20 20 • 要么向前赋能，否则向后传递 • 增强回路 • 工作中潜移默化知识沉淀传统智能客服安灯Copilot 仅用半年能力就赶超传统智能客服4年的积累 15 10 5 1 0 11 +12% 3 2 0 0 0 6 5 4 0 0 6 6 0 7 7 0 2020H1 2020H2 2021H1 2021H2 2022H1 2022H2 2023H1 2023H2 2024H1 2024H2E

17. AI应用：企业的“行业大脑” 知识是“宝”，但未必为企业所“藏” 基于安灯流程“虹吸效应”，知识藏宝于企业内部知识安灯隐性知识 <1% 显性知识行业大脑（传统知识库）转换为文档生产数据外部知识腾讯混元腾讯VDB RAG 动态、多源检索和生成 • reflexion • • • • 工作流 • 流程即消费无需专职 • 流程即反馈效果量化 • 流程即生成增强回路半亩方塘一鉴开，天光云影共徘徊。问渠那得清如许？为有源头活水来。业务场景 • • • • 价值价值流流动拉动

18. AI应用：基于行业大脑的“客户画像Agent” 传统客户画像的弊病引用来源：互联网 • 基于标签 • 受经验限制 • 灵活性差 • 维护成本高 • 一抓就乱填 • 一放就不填 • …… 似乎问题是我们自己造成的另一些非结构化结构化 idea 非结构化基于行业大脑的智能画像智能画像画像Agent 非结构化

19. AI应用：基于行业大脑的“客户画像Agent” “问我想问” 营销助力客情分析问题梳理

20. AI应用：基于行业大脑的“看板Agent” 和腾讯云chatBI 联动，让人人都是“表哥表姐”

21. AI应用：基于行业大脑的“腾讯云顾问Agent” 腾讯云顾问 —— 一站式云上可视化治理平台传统的手绘软件架构图基于“腾讯云顾问”，在线治理云架构架构图就是软件工程师的语言，常被应用到软件研发全生命周期一张广为流传的架构图一键生图一键治理安全的可靠的腾讯云的卓越架构经验行业的卓越架构经验引用来源：互联网；tweeter 顾问Agent “我的” 高性能的卓越架构低成本的运营卓越的可持续的

22. AI应用：基于行业大脑的“群聊Agent”探索 AI Agent • 基于Multi Agent框架，将多个Agent的角色，通过Chat对基于专家领域多Agent • 启发：建设一套脚手架，不同专业团队“调教”专家Agent，遇到问题直接拉群，群里多Agent聊着天就把问题解决话的形式交互，输出方案 AI 网络交互 • 以一个网络问题为例： Agent集合 • 输入问题用户 CVM Agent 专家A 调教专家B 现实获取答案 • 审核引用来源：互联网；Microsoft autogen 专家团队排障经验、知识文档、工具

23. 小结智能建单智能优先级智能助手安灯Copilot 行业大脑画像 Agent 看板Agent … 引用来源：互联网；麦卡锡官网

24. 小结 GenAI应用路线图加持数据场景 RAG 业务决定 AI 流程注入固化微调评估飞轮数据 IT 产生引用来源：阿里·阿桑贾尼，https://dr-arsanjani.medium.com/the-genai-maturity-model-a1a42f6f390b

25. 谢谢聆听许小川@腾讯云安灯