Qunar自动化测试平台演进
如果无法正常显示,请先停止浏览器的去广告插件。
1. 去哪儿网
自动化测试平台演进
鲁国宁
2. 讲师简介
请插入
您的照片
鲁国宁
2019~至今:去哪儿网-基础平台部,致力
于测试流程治理与测试工具建设;主导性能
测试平台搭建、自动化测试平台改造;
2015~2019:京东商城-效能研发部,从事
性能压测平台建设,实现亿级QPS压测,智
能寻点等功能;为618、双11保驾护航;
2013~2015:海尔集团,数据中心团队,
从事数据相关自动化测试平台开发与运维;
ee.msup.com.cn
3. 目录
ee.msup.com.cn
1 背景&痛点
2 工具实践&经验
3 灭霸设计与应用
4 改进&探索
4. 一、背景-举例
• 简单介绍案例背景,遇到哪些问题等
ee.msup.com.cn
5. 一、背景-举例
ee.msup.com.cn
6. 一、背景-故障统计
机票业务线报价故障
故障分类
37%
63%
29%
漏测
53%
18%
发布
配置变更
其他
P1/P2故障级故障
21%
其他
79%
漏测
ee.msup.com.cn
其他
7. 一、背景-痛点
CheckList/用例管理
自助维护
环境管理
结果分析
持续集成
ee.msup.com.cn
8. 目录
ee.msup.com.cn
1 背景&痛点
2 工具实践&经验
3 灭霸设计与应用
4 改进&探索
9. 二、工具发展实践
82%
30%
15%
ee.msup.com.cn
Ares
QueryDiff
灭霸
10. 二、实践中经验与教训
可落地
开源组件
ee.msup.com.cn
学会说不
11. 目录
ee.msup.com.cn
1 背景&痛点
2 工具实践&经验
3 灭霸设计与应用
4 改进&探索
12. 三、自动化测试平台-灭霸
ee.msup.com.cn
13. 三、灭霸设计
Data Center
Thanos Web
页
面
交
互
业
务
逻
辑
层
DB
应用配置 用例管理
触发执行 报告汇总
创
建
测
试
自动生成
checklist及管
理
Mysql Redis
配置
测试记录 分布式锁
缓存
生
成
用
例
部
署
环
境
模
拟
请
求
发布系统
质量检查
日志收集
结
果
分
析
生
成
报
告
支
撑
服
务
保
存
录
制
数
据
保
存
cas
e数
据
DB
配置管理
ee.msup.com.cn
业
务
逻
辑
层
查
询
cas
e数
据
查
询
录
制
数
据
保
存
回
放
数
据
固
化
录
制
数
据
Mysql Redis Hbase ES
固化
case 缓存 录制数据 索引
Thanos Agent
业
务
逻
辑
层
录
制
入
口
及
子
调
用
上
报
录
制
数
据
上
报
用
例
数
据
子
调
用
回
放
入
口
采
样
入
口
白
名
单
子
调
用
黑
名
单
14. 三、灭霸功能模块
流程管理
ee.msup.com.cn
用例运维
环境管理
执行编排
结果分析
15. 三、执行流程
触发
项目流程
用户
配置变更
外部应用
ee.msup.com.cn
执行
报告
应用检
查
环境部署
部署通过
Case生成
Case编
排
Case准备
基准环境
结果断言
测试环境
报
告
&
通
知
16. 三、灭霸功能模块
流程管理
ee.msup.com.cn
用例运维
环境管理
执行编排
结果分析
17. 三、灭霸-用例运维
01
02
03
04
ee.msup.com.cn
数据源与解析
Checklist运维
Case运维
Case少?失效?
18. 三、用例-数据源&解析
业务日志
SDK入口
采样数据
业务数据 录制回放
接口 数据
ee.msup.com.cn
解析器
19. 三、用例-CheckList运维
ee.msup.com.cn
20. 三、用例-测试维度自动更新
新增业务类型?
ee.msup.com.cn
21. 三、用例-测试维度自动更新
业务类型消失?
叉乘业务不合理?
ee.msup.com.cn
22. 三、用例-生成Case列表
ee.msup.com.cn
23. 三、用例-自运维
检查点
自动补充
ee.msup.com.cn
CheckList Case
生成与失效 持续更新
24. 三、用例-Case数量&时效性
实时生成
固化Case
定时补充
数据清洗/偏移
ee.msup.com.cn
25. 三、灭霸功能模块
流程管理
ee.msup.com.cn
用例运维
环境管理
执行编排
结果分析
26. 三、环境部署
软路由
01
02
多环境
分时复用
ee.msup.com.cn
03
线上环境一致
机器/代码/配置
27. 三、灭霸功能模块
流程管理
ee.msup.com.cn
用例运维
环境管理
执行编排
结果分析
28. 三、编排-Case执行
任务创建
Task2
任务创建
Task2
Case3
Case2
Case1
Case1
Case2
Case3
进入Case执行
Base URL
Test URL
结果diff
重入队列
成功
N
ee.msup.com.cn
达到重试
上限
Y
Y
保
存
结
果
结束
生成报告
29. 三、编排-录制回放
serviceB
serviceC
http
req
serviceA
dubbo
Sedis
Redis
Java方法
Mysql
ee.msup.com.cn
30. 三、灭霸功能模块
流程管理
ee.msup.com.cn
用例运维
环境管理
执行编排
结果分析
31. 三、结果分析
ee.msup.com.cn
32. 三、结果分析-配置
忽略节点、关心节点
ee.msup.com.cn
33. 三、结果分析-配置
指定字段排序
相似度匹配
正则断言
特殊Key
ee.msup.com.cn
34. 三、结果分析-结论+质量门禁
ee.msup.com.cn
35. 三、应用扩展
ee.msup.com.cn
36. 三、灭霸应用
混沌工程
公共组件升级
性能测试
流量导入 Dubbo升级 压测数据
结果分析 Agent升级 压测后回归
强弱依赖标识 Tomcat/JDK升级
Tcdev版本升级
ee.msup.com.cn
37. 三、使用
机票业务线报价故障
14%
投入成本:620人天
86%
日常执行数据
漏测
其他
P1/P2故障级故障
执行时长:297s
测试比重
15
开发
8%
测试
92%
10
5
0
2019全年
ee.msup.com.cn
近半年
漏测
其他
38. 目录
ee.msup.com.cn
1 背景&痛点
2 工具实践&经验
3 灭霸设计与应用
4 改进&探索
39. 四、探索改进
好用
易用
ee.msup.com.cn
拓展
40. 关注msup公众号
获取更多工程效能实践案例