基于代码大数据的软件开发质量与效能分析

1. 2020阿里巴巴质量创新大会 2020 TEST INNOVATION CONFERENCE OF ALIBABA

2. 基于代码大数据的软件开发质量与效能分析演讲人：彭鑫复旦大学计算机科学技术学院 pengxin@fudan.edu.cn https://cspengxin.github.io http://www.se.fudan.edu.cn

3. 01 传统分析度量的困境目录 02 基于代码大数据的新思路 CONTENTS 03 实践探索 04 总结与展望

4. 01 传统分析度量的困境

5. 软件开发中的几个普遍问题软件维护的冰山随风消逝的知识开发过程不透明脆弱的软件供应链冰冻三尺非一日之寒代码中的“神秘主义” 程序员工作难以评价失控的代码拷贝击鼓传花、法不责众重新发明轮子能力基线难以建立脆弱的第三方库依赖链根本问题：软件制品及开发过程的不可见性

6. 代码分析与度量静态缺陷扫描代码克隆检测代码度量 — 规模 — 复杂度 — 内聚/耦合度如果你不能度量它，就无法改进它 — Peter Drucker —…

7. 传统分析与度量的困境无差别攻击？揭示问题能力弱容易误报、误读、误用良药？毒药？度量成为教条主义 • 忽略了软件开发上下文差异的影响 • 以度量为指挥棒，忘记度量的初心开发人员趋利避害 • 你衡量什么，你就会得到什么 • 一抓就死，一放就乱

8. 02 基于代码大数据的新思路

9. 机会：企业软件开发的云化和流水线化 DevOps：开发运维一体化软件工具高度集成化、流水线化、云化覆盖软件开发运维全过程的丰富数据

10. 代码大数据平台内容代码快照代码成分：类、方法、API等代码元素及其关系演化过程演化分析：代码差异理解、代码演化过程追溯质量分析：代码度量、缺陷与漏洞、代码克隆、过程追踪：开发任务、代码修改与测试、评审、代码坏味等持续集成等外部依赖制品与过程数据的全面链接与追踪系统实现软件开发知识的反馈、收集和凝练第三方库：第三方库版本、依赖链及其版本等拷贝代码：拷贝代码来源及其副本分布情况

11. 基于演化追溯实现深层分析需求 feature 编码 bug 设计设计编码编码持续跟踪代码发展变化通过代码提交追溯变化原因深层代码质量及开发效能分析 refactor enhance — 长期危害评估 — 代码生存期 ? … — 分类损耗率 — 程序员画像 — 协作关系分析 —…

12. 大数据视角的代码度量和质量分析纵向追踪基于代码演化历史持续追踪代码的发展变化及其多方面影响 01 回归本源从问题的实际影响而非表象出发确定并使用度量指标关联分析 02 04 融合多种不同分析手段和度量指标并结合代码修改意图等上下文信息进行深入分析 03 横向比对将大量项目中的相似问题综合在一起相互映证，抽取共性规律

13. 03 实践探索

14. 代码缺陷跟踪演化过程追溯代码资产抽取第三方库版本管理静态分析演化分析克隆检测依赖分析 SonarQube等工具代码度量、坏味道等能力基线分析代码逻辑差异比较高性能代码克隆检测演化历史切片多粒度、多形态克隆克隆危害分析设计影响评价代码内部依赖分析第三方库依赖分析第三方库影响分析

15. 代码克隆分析程序员画像

16. 亿级代码高效克隆检测多粒度：文件、方法、片段多形态：Type-1/2/3 准确性高：95%以上如何去掉无意义的代码克隆？哪些代码克隆风险更高？哪些需要尽快干预？哪些代码克隆是抽取可复用资产的合适候选？

17. 克隆副本无修改无害无害？有害？额外的克隆副本维护开销遗漏修改导致的克隆副本缺陷残留克隆副本无需一致性修改克隆副本能保证同步一致性修改克隆副本一致性修改有时延克隆副本时延导致缺陷残留无害轻微中等严重代码数据分析指标 ü 克隆代码修改率 ü 一致性修改率 ü 一致性修改时间差 ü 一致性修改延迟导致缺陷数

18. 针对4个开源项目（Redis/SQLite/ArgoUML/Tomcat）和3个企业软件系统的案例研究代码总行数约1700万行，其中克隆代码行约357万行（21%），共包含23,560个克隆组每实例修改次数累计一致性修改时间差分布各项目55%-72%的克隆组从未修改过一致性修改要么很容易保持（2天以内），要么很困难（1周以上）

19. 1. 代码规模 — 代码长度 — token数 2. 代码差异度代码克隆分析指标体系 3. 实例分布 — 实例数 — 涉及文件数 — 分散度 4. 实例变化 — 存活时间 — 实例增减趋势 — 变更活跃度 5. 一致性修改 — 一致性修改率 — 一致性修改时间差 — 一致性修改缺陷数

20. 代码克隆画像稳定的通用功能代码集中维护的相似功能持续扩散的高风险克隆

21. 1. 设计贡献 2. 新增代码 3. 修改代码程序员效能分析指标体系 6. 代码重复率 — 与他人重复 — 与自己重复 — 修改自己 — 修改他人 7. 代码特异 4. 删除代码 8. 缺陷引入 — 删除自己 — 删除他人 5. 代码存活率 9. 缺陷消除 — 自己引入 — 他人引入

22. 程序员画像架构奠基者核心功能实现者代码问题清理者主要代码贡献者简单功能实现者修改存量代码大量零散修改新手上路代码贡献少代码问题多

23. 04 总结与展望

24. 来源可溯去向可查责任可追质量可控 https://www.mmh.com/wp_content/barcoding_wp_traceability_030513.pdf DevOps与云化开发平台提供了全过程软件开发数据通过有追溯的代码大数据分析实现有效度量和分析

25. 代码视角程序员视角基于代码大数据实现质量问题的持续追溯和有效管控

26. THANKS