基于 Serverless 的腾讯在线教育中后台业务落地实践

1. 基于 Serverless 的腾讯在线教育中后台业务落地实践杨波腾讯IMWeb高级前端工程师

2.

3. • 团队Node服务开发回顾 • 企鹅辅导智能题库Serverless探索与实践 • Serverless一体化建设 • 未来展望

4. 预期听众收益避免Serverless落地过程中踩坑了解Serverless落地中常⻅问题解决思路了解Serverless团队化建设的几个要点

5. 团队Node服务开发回顾

6. 团队Node服务开发回顾前端团队介绍腾讯IMWeb团队技术矩阵 React/Vue/Angular Node/小程序/Wasm/Flutter… 系统建设 DevOps系统低代码平台 WEB/Node框架… 负责产品团队数据成员人数100+ 发布次数 160+/周 GIT COMMIT 1000+/天

7. 团队Node服务开发回顾 IMWeb的Node开发场景的变化 Node接入层业务中台运营活动管理系统 SEO优化直出场景 2015 SSR 2017 逻辑开发 2018 前端全栈团队协同体系化运维 2019 上云

8. 团队Node服务开发回顾前端团队全栈研发全景图产品孵化 H5 PC 诊断研发支撑告警全链路日志业务代码全量日志检索运营系统管理后台小程序配置系统消息系统服务组件基础组件 … … 压测调优方案业务组件切流灰度系统流量异常 COS Redis DAO CSRF 登录二维码成功率 IMServer 监控组件加锁缓存 TTS OCR 接口耗时 IMLog CDN 频控队列数学公式口语测评 CD系统 CD系统自动化测试业务返回码云监控 Quality 腾讯云FASS 中台服务腾讯云BASS 业务后台 Runtime CI系统本地开发套件 Devops

9. 腾讯企鹅辅导Serverless探索与实践

10. 腾讯企鹅辅导Serverless探索与实践-智能题库企鹅辅导上课模型 1 老师课前备课 2 学生课前测试 3 老师直播上课 4 学生课中测试 6 老师批改作业 5 学生课后作业基础能力智能题库

11. 腾讯企鹅辅导Serverless探索与实践-智能题库题库系统当前架构 H5 系统题库系统考试系统批改系统 PC WEB 组件选择题解答题口语题反馈系统 … 适配多端 Android/IOS 适配多业务 IPAD Windows客户端小程序数据测评解析试卷考试 …

12. 腾讯企鹅辅导Serverless探索与实践-智能题库题库系统优化-方案思考目标思考方案适配多端接口原子化接口裁剪适配多业务接口适配非IO密集场景免运维诉求低成本诉求 Serverless BFF BFF Serverless

13. 腾讯企鹅辅导Serverless探索与实践-智能题库 1、如何复用现有Node框架 2、后台接口如何上BFF 问题分析 3、SCF BFF性能优化方向 4、SCF中数据库的使用

14. 腾讯企鹅辅导Serverless探索与实践-智能题库 Controllers Logic 1、如何复用现有Node框架 IMServer(KOA) Routers SCF main_handler Node Server API Gateway HTTP HTTP IMServer请求流 IMServer透传数据格式 SCF透传数据格式如何解决格式差异？ SCF请求流

15. 腾讯企鹅辅导Serverless探索与实践-智能题库 1、如何复用现有Node框架 HTTP API Gateway SCF main_handler 通信 UDS SCF请求模型 IMServer(KOA) Node Svr Routers Node Svr请求模型时延吞吐量固定端口号 UDS(Unix Domain Sockets) 2US 1.73 M/S 不需要 TCP sockets 6US 0.25 M/s 需要对比指标通信方式 Controllers

16. 腾讯企鹅辅导Serverless探索与实践-智能题库 1、如何复用现有Node框架 init Node Svr trigger listen HTTP API Gateway 入口 IMServer(KOA) UDS通信文件 trigger req SCF mian_handler 进程间通信模式 Routers Controllers

17. 腾讯企鹅辅导Serverless探索与实践-智能题库旧接口外网接口 CGI1-1 CGI2-1 通用反向代理业务模块代理后端逻辑服务 CGI3-2 新接口 … NGINX 2、后台接口如何上BFF 后台Proxy(cmd调用) CDN回源代理 SVR1 SVR2 SVR3 cmd1-1 cmd2-1 cmd3-1 cmd1-2 cmd2-2 cmd3-2 cmd1-3 cmd2-3 cmd3-3 后台公共逻辑库直出 … SVRN … 后台接口架构

18. 腾讯企鹅辅导Serverless探索与实践-智能题库旧接口 2、后台接口如何上BFF 新接口 BFF1 业务模块代理后台Proxy(rpc调用) BFF2 BFF3 … BFF RPC调用后端逻辑服务 SVR1 SVR2 SVR3 cmd1-1 cmd2-1 cmd3-1 cmd1-2 cmd2-2 cmd3-2 cmd1-3 cmd2-3 cmd3-3 SVRN … SVR1 后端原子后台公共逻辑库原子1-1 原子1-3 细粒度单逻辑易测试 SVR2 SVR3 SVRN 原子3-1 原子2-3 原子3-2 原子3-3 …

19. 腾讯企鹅辅导Serverless探索与实践-智能题库 BFF1 BFF2 新接口旧接口 2、后台接口如何上BFF BFF3 … 新接口 BFF RPC调用现有原子能是否可用 SVR1 后端原子原子1-1 原子1-3 SVR2 原子2-3 SVR3 SVRN 原子3-1 Y … 原子3-2 原子3-3 前端BFF闭环 N 后台新增原子

20. 腾讯企鹅辅导Serverless探索与实践-智能题库 2、后台接口如何上BFF 旧接口新接口协议约定通用字段协议前后端约定通用数据字段 SDK下游寻址优化 SDK 解决同子网IP相同的问题 SCF RPC调用如何处理？通用字段

21. 腾讯企鹅辅导Serverless探索与实践-智能题库 APP ⻚面 Windows客户端题目 H5 试卷 PC WEB 解析分数小程序 … 前端业务逻辑闭环题库架构 Serverless BFF BFF 接口 API 层接口 RPC调用(通用协议，标准SDK) 原子逻辑原子逻辑登录权限原子逻辑存储缓存 … … 业务逻辑基础逻辑后端数据逻辑闭环

22. 腾讯企鹅辅导Serverless探索与实践-智能题库 USER STGW 接入层 APIGATEW NGINX 3、SCF BFF BFF性能优化方向 Serverless BFF层 SCF 后台原子后台原子层存储资源

23. 腾讯企鹅辅导Serverless探索与实践-智能题库 3、SCF BFF性能优化方向接入层 BFF层后台原子层 USER STGW BFF 后台原子开启就近访问 NGINX APIGATEW 存储资源 SCF SCF多地部署冷启动优化同一网络调用 RPC调用业务接口缓存原子接口缓存读写分离 … … …

24. 腾讯企鹅辅导Serverless探索与实践-智能题库 3、SCF BFF性能优化方向什么是冷启动? 冷启动优化云函数被invoke时创建新实例来处理请求，新实例从创建到启动完成的这个过程避免创建新实例优化思路提升冷启动速度

25. 腾讯企鹅辅导Serverless探索与实践-智能题库 3、SCF BFF性能优化方向冷启动优化实例复用 SCF启动过程实例预留：预先启动一些实例避免创建新实例实例加热：定期加热实例实例预请求：业务上按需预请求加快响应：缓存逻辑&同步改异步等下载&部署速度提升冷启动速度提升下载速度：代码精简压缩提升启动速度：减少服务启动依赖

26. 腾讯企鹅辅导Serverless探索与实践-智能题库 1、业务请求耗时：从平均1秒优化到800MS 耗时优化的结果： 2、冷启动请求占比：从10%降到5% 3、冷启动请求耗时：从平均5秒降到平均3秒

27. 腾讯企鹅辅导Serverless探索与实践-智能题库冷启动冷启动 SCF实例2 SCF实例1 DB连接 DB连接 DB连接 SCF实例3 DB连接冷启动 SCF实例N 冷启动 SCF实例2 数据库 4、SCF中数据库的使用 SCF实例1 DB连接 DB连接 DB连接代理冷启动 SCF实例3 DB连接冷启动 SCF实例N 数据库数据库连接占满冷启动无法避免数据库连接占满数据库连接复用

28. Serverless一体化建设

29. Serverless一体化建设全景图 CD系统 IMFS SCF跳转发开发模板 SCF CD系统发布本地调试容灾网关权限统一 CVM跳转发布操作简化 CONF发三地部署规则转发 DEVCLOUD 公网域名 IMServerless TS规范日志上报版本绑定内网域名版本发布免发布团队权限GIT文件 T R A C E I D WEB HOOK Grafana视图 ES集 SVR SCF/STKE同构 SVR SCF/STKE同构 SVR SCF/STKE同构 HTTP、UDP IMLOG IMFS规范研发闭环别名绑定 Imlog GIT 规范业务自动容灾 IMSERVER 组件云函数GIT仓库灰度导流告警云函数 API GATEWAY 镜像 SCFRequest 企微告警拉群 NGINX 性能优化 SCF多函数发 IMFS 日志监控 CLIENT 流量闭环监控闭环

30. Serverless一体化建设 Serverless一体化建设方向定规范团队化SCF开发规范建设怎么喜欢怎么来一体化提效率 SCF多人开发研发效能提升多快好省保质量 SCF稳定性保证的团队方案

31. Serverless一体化建设目录规范本地研发规范定规范开发规范团队化SCF开发规范建设函数规范 CI/CD规范状态码规范日志告警规范

32. Serverless一体化建设定规范目录规范本地研发规范配置精简，结构清晰多函数支持，TS支持保持传统本地开发习惯

33. Serverless一体化建设函数配置规范函数规范 APIGATEW配置规范 SCF接口转发规范 Node.js版本内存配置网络配置别名配置 … Path配置超时配置响应类型配置 … 路由配置熔断配置限流配置 … 定规范基于Serverless Framework CI/CD规范 Yaml文件规范命令简化 … 基于GIT进行CI 分支构建云端构建环境隔离 … 基于GIT分支CD 需求管理发布Checklist 发布周知 …

34. Serverless一体化建设上下游回包格式状态码规范状态码分层内置状态码组件 retCode字段 errMsg字段 … 系统错误逻辑错误网络错误 … 全局错误捕获系统错误捕获基础状态码 … 定规范统一TraceID 日志告警规范生成规范透传规范 … 基于ELK模型告警日志SDK ES索引字段 Grafana告警视图 … 企微推送&电子流提单自动拉取自动AT负责人自动提BUG单 …

35. Serverless一体化建设 1、统一SCF开发模板开发提效率 2、收拢SCF账号权限 SCF多人开发研发效能提升 3、优化SCF部署耗时部署 4、提升SCF部署效率 IMFS

36. Serverless一体化建设提效率 1、统一SCF开发模板开发部署 2、收拢SCF账号权限 SCF多人开发研发效能提升目录结构基础依赖库构建命令 Imfs-create 基础配置路由配置 3、优化SCF部署耗时日志配置 4、提升SCF部署效率中间件配置 …

37. Serverless一体化建设提效率 1、统一SCF开发模板开发 2、收拢SCF账号权限 SCF多人开发研发效能提升账号A 账号B 账号C 3、优化SCF部署耗时部署 4、提升SCF部署效率地域A 命名空间 D SCF A 地域B 命名空间 E SCF B 地域C 命名空间 F SCF C … … … … 资源浪费管理困难

38. Serverless一体化建设提效率 SCF多人开发研发效能提升 SCF A 1、统一SCF开发模板开发开发-命名空间 2、收拢SCF账号权限统一账号 SCF B 统一地域部署 4、提升SCF部署效率限测试-命名空间 SCF C 3、优化SCF部署耗时资源浪费收拢权生产-命名空间 … 管理困难

39. Serverless一体化建设提效率 1、统一SCF开发模板开发 SCF多人开发研发效能提升 SDK SCF BUILD SDK SCF DEPLOY SDK FILE UPLOAD SCF FILE DOWNLOAD 2、收拢SCF账号权限优化部署耗时 3、优化SCF部署耗时部署 4、提升SCF部署效率部署触发次数越少越好 SCF Layer 单次部署文件越小越好 SCF INIT

40. Serverless一体化建设提效率 1、统一SCF开发模板开发 SCF多人开发研发效能提升 SDK SCF BUILD SDK SCF DEPLOY SDK FILE UPLOAD SCF FILE DOWNLOAD SCF INIT 2、收拢SCF账号权限优化部署耗时业务逻辑动态逻辑 3、优化SCF部署耗时部署 4、提升SCF部署效率 SCF Layer 部署函数频繁耗时降低 SCF 静态依赖 node_modules 部署为layer 按需

41. Serverless一体化建设提效率 SCF多人开发研发效能提升 APIGATEW 1、统一SCF开发模板开发 1、函数版本发布 2、修改APIGATEW指向 2、收拢SCF账号权限 3、优化SCF部署耗时部署函数版本 V 4、提升SCF部署效率 3、发布APIGATEW 函数版本 V+1 团队强制使用别名 APIGATEW 函数别名PROD 函数版本V 1、函数版本发布 2、修改函数别名PROD指向函数版本 V+1

42. Serverless一体化建设提效率 SCF多人开发研发效能提升团队强制使用别名 1、统一SCF开发模板开发 2、收拢SCF账号权限 APIGATEW 函数别名PROD 函数版本V 1、函数版本发布 2、修改函数别名PROD指向函数版本 V+1 DevOps单系统闭环 3、优化SCF部署耗时部署 4、提升SCF部署效率 APIGATEW 函数别名PROD 函数版本V 一个按钮点击操作函数版本 V+1

43. Serverless一体化建设提效率 1、统一SCF开发模板开发 SCF多人开发研发效能提升 DevOps系统闭环 2、收拢SCF账号权限 3、优化SCF部署耗时部署 4、提升SCF部署效率多项目多函数发布并行处理、状态实时掌握

44. Serverless一体化建设最终概览效果学习SCF、API文档 GIT CLONE他人项目删掉其他业务逻辑各种申请权限编写业务逻辑 GIT PUSH 开发分支 SCF控制台创建函数云API控制台创建服务体系化收敛 OCI DEPLOY函数到测试命名空间转发请求到测试网关API 云函数控制台查看日志本地验证权限&创建本地开发 CD系统提发布单 CD系统触发CI构建云函数控制台发布版本云API控制台创建API 云API控制台API绑定函数版本发布云API 现网验证发布上线

45. Serverless一体化建设并发激增保质量冷启动调优 SCF稳定性保证的团队方案函数发布并发超出预设值未知错误码系统错误兜底

46. Serverless一体化建设目前的SCF请求流 CLIEN T 腾讯云腾讯云 API SCF API SCF API SCF NGINX … …

47. Serverless一体化建设腾讯云 CLIEN T NGINX 不可控容灾腾讯云 API SC API SC API … SC … 不可控 …

48. Serverless一体化建设基于网关容灾方案 CLIEN T NGINX SCF网关统一兜底容灾业务失败，直接触达用腾讯云腾讯云 API SCF API SCF API SCF … 业务失败，流控拦截 …

49. Serverless一体化建设网关容灾方案-基于CVM容灾 CVM和SCF业务同构 Node SERVER server_entry.js CVM镜像 scf_entry.js SCF代码包 IMFS LOGIC LOGIC LOGIC … 一套代码，一个开发习惯，一次构建，两个入口

50. Serverless一体化建设 SCF网关最终架构网关(基于NGW) 规则匹配插件规则更新鉴权日志匹配解析灰度改写腾讯云腾讯云 API SCF SCF SCF API CLIEN T … 同构代理转发 NGINX DNS解析转发执行失败重试天津 API SVR SVR 多地部署深圳 CVM 南京 … SVR …

51. 总结 1. Serverless落地实践中常⻅问题解法 1、现有Node框架复用 2、后台接口如何上BFF 3、冷启动优化方法 4、SCF中使用DB的原则 2. Serverless一体化建设的要点 1、Serverless团队规范 2、如何提高Serverless研发效率 3、如何保证Serverless业务质量

52. 未来展望

53. 未来展望云函数编排多函数拆分

54. 未来展望云函数编排下游服务 SCF 数据层函数复用 SCF SCF 下游服务 SCF SCF 函数治理性能保障数据层可观测性

55. 未来展望多函数拆分 Controller Logic APIGATEW Path SCF Node Svr Controller Logic Controller Logic 函数健壮性本地研发体验友好 Path APIGATEW Path SCF Controller Logic 拆分规范 SCF Controller Logic 依赖分析 SCF Controller Logic DevOps Path

56.

57. 未来已来，前端的目标是星辰大海！扫码关注IMWeb微信公众号工作机会与我交流

58.