云原生落地，乐高拼搭还是外科移植？

1. 云原生落地，乐高拼搭还是外科移植？张晓辉 Flomesh 高级架构师

2. 张晓辉 13 年软件开发经验，专注于基础架构，DevOps 践行者，Cloud Native 拥护者，坚守开发一线打磨匠艺的架构师。曾在汇丰软件、唯品会、数人云、小鹏汽车等公司任职。有多年的微服务和基础架构实践经验，曾主导小鹏汽车云原生技术中台从 0 到 1 的建设和演进。主要工作涉及微服务、容器、Kubernetes、DevOps 等。开源、云原生爱好者，云原生社区管委会成员。目前在 Flomesh 担任高级云原生架构师、布道师。

3. • 初识云原生 • 云原生实践 • 平台的演进 • 未来的方向

4. What • 软件系统是现实世界的抽象结果 • 微服务是一种架构风格、设计理念 • 云原生是一种方法论

5. How

6. So Easy？

7. • 初识云原生 • 云原生实践 • 平台的演进 • 未来的方向

8. 缺乏基础平台设施出现问题，定位手段有限痛点以解决问题为出发点缺乏统一技术规范可用性支撑手段有限生产缺乏弹性运维手动

9. 概览 PaaS 平台微服务化基于 Spring Cloud 的微服务架构容器化 & 服务编排使用 Kubernetes 对容器进行编排和管理微服务中台微服务监控研发中台注册中心调用链服务注册、服务治理、监控 Google Dapper 分布式服务跟踪 CICD 平台 API 网关协议控制、限流、熔断授权、安全服务管理配置中心告警管理统一配置、实时更新版本管理、灰度、回滚微服务框架 DevOps 收敛公共逻辑、技术规范落地生产级功能 JVM 监控文档中心自动化自动化、集中式管理项目生成器自动化告警收敛、对接 IM 降低技术门槛、标准化接入 Metrics 代码质量弹性弹性扩展、按需扩容节省资源存储自动化存储管理网络虚拟网络、网络隔离集群调度 Google BorgMon、自动化告警持续自动化代码质量报告动态调度、资源限制监控大盘自服务平台应用抽象自动化日志收集、实时查看通过 CICD 实现高质量的应用快速交付敏捷开发部署、自动化 DevOps 云平台日志中心自动化日志收集、实时查看项目接入自动化工作负载与能力特性分离

10. 赋能业务微服务使用最佳实践：框架、配置调优、profile标准化、线程池和连接池调优最佳实践技术兜底配置中心：提供不停机、动态调整应用配置能力丰富问题定位手段：日志中心、注册中心、微服务全方位监控（JVM/Trace/Metrics/告警）系统级无埋点监控、业务Metrics提供扩展机制无缝落地代码生成器：提高新项目的研发效率，不需要一行代码即可接入中台自动化CICD：镜像生成、Git自动tag处理、代码质量、自动化测试自动化网关自动接入：提供限流、熔断、访问控制、安全自服务平台：流程实现自动接入平台

11. • 初识云原生 • 云原生实践 • 平台的演进 • 未来的方向

12. 多维度演进可用性提升 GPU 支持多语言应用层抽象效率提升演进  提升可用性  精益标准化  提高易用性  降本提效

13. 可用性保障业务系统无损升级服务治理功能异地双活自动扩缩容反亲和性混沌工程

14. 业务系统无损升级调整滚动升级策略 Tomcat 的优雅退出升级过程中客户端发现服务端超过一个实例不可用请求未处理完实例退出解决服务实例状态不一致问题 Eureka AP 模型通过定时同步来实现状态在多点的一致

15. GPU 支持 Code 使用 nvidia-device-plugin CUDA Image 为了充分利用资源没有使用 nvidia.com/gpu: x Python Image Dockerfile 提供对 GPU 资源的监控开发环境的双卡 GPU 出现双卡不均衡资源使用粒度粗，超卖严重 Base Image

16. Sidecar 多语言支持 • spring-cloud-sidecar 实现 • 支持 Python（cpu/gpu）、NodeJS、Web • 复用中台的能力 Service SDK 进程隔离服务发现 • SDK 功能下沉、降低版本碎片化负载均衡 • ServiceMesh 的雏形弹性路由 • 异构系统的统一治理 Sidecar 服务发现熔断微服务治理与业务逻辑的解耦业务逻辑业务逻辑 • • Service 动态配置 spring-cloud-sidecar 性能低占用资源高进程拆分负载均衡弹性路由熔断动态配置

17. 应用层抽象应用 Kubernetes CRD 系统能力业务逻辑网络存储弹性资源管理调度特性 Deployment Service PVC HPA Resource PriorityClass 2019 年 10 月 17 日阿里云联合微软全球发布开放应用模型（OAM）较 OAM 扩展性差

18. 容器化部署平台 • 多集群部署 • 跨机房的日志聚合 • 历史修订版 • 云原生告警 • 封装应用层抽象

19. CICD Jenkins Global Pipeline Library • 目标：标准化、自动化 • 将 GitFlow 固化到流程中 Job Job Job Git Folder Pipeline Library DB Project Metadata • 与云平台、监控中心、质量平台、自动化 Pipeline Script 测试对接 Seed Job • 基于工程元数据自动生成作业 • DSL Script Jenkins Shared Library 对流程进行抽象 Harbor 弹性差、资源使用率低 Kubernetes SonarQube Nexus 自动化测试

20. 自动化++ 项目管理数据同步项目元数据、CMDB 对接各环境数据同步配置中心名空间初始化部署平台作业初始化，权限同步工单系统对接 SERVICE RBAC C <> DE CICD 权限、角色初始化授权管理监控告警平台 Dashboard、告警规则初始化

21. • 初识云原生 • 云原生实践 • 平台的演进 • 未来的方向

22. 演进的痛点治理功能不够强大 • SDK 复杂度爆炸 • 版本碎片化严重 • 升级、维护困难 • 新语言 • 服务数量爆炸 • 功能“下沉” • 用户的期待降本提效是个永恒的话题

23. 服务网格-下一代微服务的核心业务原理原协议转发定位负载均衡服务间通讯的基础设施层、语言无关路由熔断流控超时灰度服务发现可观测性 Service Mesh 虚拟机部署 Sidecar 模式，独立的辅助进程、无侵入性、无感知升级 • • • 容器与现有架构集成 Istio 的复杂性与学习曲线特权容器 IoT . .

24. 云原生 CICD Tekton CRDs K8s Native Resource • Pipeline Core • Task Pod • Step . . Controller Manager Container • 容器化：可复制、可重用动态编排：提高可靠性 Serverless：降低成本兼容性 API：可移植性 . . Step Container . . . . Task Pod • • • 同样在演进中持久化：依赖 etcd 默认支持并发低

25. GPU 共享调度整合 gpushare-scheduler-extender 和 gpushare-device-plugin 实现 GPU 资源的软隔离。 Python Daemonset API Server Python Scheduler (gpushare-device-plugin) kubelet Kubernetes Node gpushare scheduler extender

26. 总结取舍 • • 正视限制条件和目标价值，内省外观 • 以解决问题实现价值为出发点，不为炫技 • 从最小闭环开始，持续演进进化 • • 好的架构不是设计出来的，而是演进出来的 • 未来的事情，未来再说

27. “ 道阻且长，行则将至！ ”

28.