AI Agent + AI Profiling，构建高效智能运维双支柱

1. 演讲人：周絮

2. 01 大规模云上系统运维的特点和挑战 02 AI Profiling + AI Agent，助力云+AI运维进化 03 AI观测助力训推场景提升稳定性 04 AI Agent助力提升运维效率

3.

4. 01 大规模云上系统运维的特点和挑战

5. 大规模云上运维的特点和挑战技术堆栈门槛高 • • 高度依赖于Linux系统的使用和命令并且需要具有专家技能人员，需要工具可以降低运维门槛。咨询的场景，包括客户在售前对于产品的相关咨询，也包括用户在使用中对于产品操作配置的相关咨询，包括售后用户在解决问题的相关咨询。故障定界难 • • 指标解读难客户与阿里云：客户应用出现故障，难以排查是客户代码问题还是基础设施的问题。云产品间：涉及到多云产品间的故障定位及排查，往往链路长，定位困难。 • • • 监控指标爆炸式增长及秒级抖动盲区与现场缺失运维时刻的碎片化 • • •

6. 如何给用户更好体验降低应用的运维门槛应用自顶向下的分析深度剖析问题成因提升运维效率基于内核深度剖析 AI辅助解决重复性问题关联：实现系统指标与应用表象的关联；全视角：发挥内核的全视角优势，深度分析进知识库：通过沉淀的工单问题及操作系统知识追踪：全链路根因追踪，覆盖应用的调用情况和延时分程间行为关联；库，匹配到重复性问题并提升自服务率；布；内核行为：深度剖析内核自身，以直观、可读流程融入：将AI能力融入到运维工作的流程中，可理解：问题根因和修复建议都是应用开发者可直接理的形式剖析内核行为才能发挥作用；解和操作的。我是开发人员多Agent协同：将运维能力拆分成多个领域运维问题Agent，并具备协同的能力。我的程序为什么卡在这？

7. 02 AI Profiling + AI Agent，助力云+AI运维进化

8. AI Profiling + AI Agent，助力云+AI运维进化 1 1 2 AI for Maintenance: AI 技术推动系统运维效率提升 2 AI Profiling 3 Maintenance for AI: 运维为 AI 训推场景提供故障及性能定位 AI Agent 3 4

9. 用户界面控制台扩展组件增强能力工具 SysOM运维、KeenTune调优等系统智能辅助工具 OpenAPI OS Copilot CentOS安全接管服务订阅服务 CentOS接管为代表的操作系统服务操作系统支持主流操作系统原生支持Alibaba Cloud Linux，并扩展支持其他Linux操作系统增值服务 SysOM运维服务组件管理控制台管理 OpenAPI 支撑架构裸金属 ECS 容器 x86 ARM ……

10. 03 AI观测助力训推场景提升稳定性

11. 集群健康状态观测及异常发现节点深度诊断剖析进程根因持续追踪定位偶发问题 CPU/GPU融合分析定位性能瓶颈

12. 健康分体系专家工具集持续追踪技术自动化诊断

13.

14. • •

15. 04 AI Agent助力提升运维效率

16. 任务型机器人

17. 传统AI 大模型

18. Agent

19. • • • • • •

20.

21. 标准化外部交互能力初步外部交互能力 ➢ ➢ ➢ ➢ ➢ ➢ ➢ ➢ ➢ ➢ ➢ ➢ ➢ ➢

22. 在运维工作的不同场景AI的应用服务输出服务形式运维流程 GTS服务团队 OS 大模型阿里云内部团队业务平台社区诊断MCP 诊断智能体值班机器人一线服务工单流转工单处理问题复盘知识沉淀工单生成 AI分类 OS 大模型 AI打分特征提取智能答疑值班关联诊断智能体特征分析文档生成 • • • • 工单分析管理能力建设运维产品研发智能路由诊断智能体智能分析智能宕机分析智能报告 JVM智能调优运维产品维护知识库沉淀特征识别告警分类推送版本自动升级知识库智能体智能热修复支撑平台扁鹊(SysOM) 宕机中心热补丁中心数据中台 …… • • • •

23.

24. 运维提效通过智能命令推荐等功能提升运维效率超50% 大量操作系统领域语料输送，在操高质量知识作系统领域比通用大模型更准确命令辅助执行根据要求推荐命令行并可直接执行快速安装只件需在系统中安装Copilot 组，即刻可使用OS Copilot 通过OS Copilot管理您在阿里云上一体化体验的资源，享受到阿里云上一体的服务。专业OS领域知识问答自然语言查询系统相关知识脚本/代码生成支持运维脚步及简单代码的生成场景化系统工具集成深度集成系统工具，覆盖系统场景

25.

26.

27.

28.

29.