秒级启动的集成测试框架

原创倚枭大淘宝技术

本文介绍了一种秒级启动的集成测试框架，使用该框架可以方便的修改和完善测试用例，使得测试用例成为测试过程的产物。

背景

传统的单元测试，测试的范围往往非常有限，常常覆盖的是一些工具类、静态方法或者较为底层纯粹的类实现，但是一般整个应用代码是比较复杂的，存在不同分层。在DDD中，一般包括：防腐层、领域层、服务层、应用层。越到上层的类其依赖关系越复杂，这些上层的类对象往往不太适合用单测来覆盖。

但是集成测试的启动速度较慢，随着工程的增大，启动速度会越来越慢。这就导致修改和 Debug 测试用例变得非常耗时，一部分人甚至会放弃写测试，而通过系统界面或手动接口测试（Postman等）方式来保证功能正确性。但这样做之后，在未来重构或者开发新需求时很难完整回归已有功能。完整回归已有功能将是每次发布的负担，回归遗漏可能引发线上故障。

测试的执行速度至关重要，这往往会影响人们是否自觉地完成测试覆盖。在实际开发过程中，我们可能需要本地反复执行某些测试用例，并不断修改，如果应用能在10秒内启动完成，那么开发是高效的，否则可能会让人试图通过其他方式来测试功能的正确性。

解决方案

针对这一问题，一个比较直观的想法是让集成测试执行速度和单元测试一个数量级。

一般的Java工程都使用了Spring框架，其应用启动慢，往往是一些涉及网络通信的Bean的初始化过程比较耗时，比如RPC框架、缓存、数据库等，这些中间件的Bean对象初始化都需要和外部建立网络连接，等待数据推送等，有的涉及多次网络通信，将这些Bean完全Mock掉，可大大加快应用启动速度。

很直观的解法是将这些耗时的Bean替换为MockBean，有两种方式：

使用Spring的@Primary注解，并禁止耗时Bean的初始化
Mock Spring容器

第一种方式的困难在于Bean初始化的方式多种多样，有的在init方法中，有的通过BeanPostProcessor动态创建，要精准的禁止这类逻辑的执行是比较困难的。

第二种方式则是自己实现一个Mock的Spring框架，基于约定的方式实现Mock对象的自动加载，以及普通Bean对象和Spring一样的方式初始化，从而实现应用的快速启动。

Mock Spring容器

我们基于第二种思路实现了Mock的Spring容器，但仅仅实现其了基础功能，因为通常我们的工程没有用到Spring比较复杂的能力（大多数工程都是如此）。工程中采用约定大于配置的方式，可以减少Mock的工作量。在Mock Spring框架时其实最需要的是自动构建依赖树的能力，即根据当前Bean对象的依赖关系，按需动态创建一系列其关联的Bean。而且对于外部依赖，可以基于某种约定来优先加载Mock对象，保证所有对象Bean创建是按需的，且不需要网络等待，这样可以实现对象依赖树秒级创建，集测秒级启动。其他特殊的功能可以通过其他方式来绕过，本方案也在不断完善中。从实践来看，启动大约需要1-10秒。

本方案的基本思路如下：

记录接口与实现类的关系，是为了根据接口查找实现类，实现按需加载
Mock对象相当于加了@Primary注解，在同类型中会优先被注入，保证覆盖中间件等外部依赖Bean对象
初始化基础Bean对象，是优先加载@Configuration修饰的类中定义的Bean对象

以下是工程中定义的扫包代码片段，每个测试执行Bean都是按需加载，不会将所有Bean全部创建。

// 确定扫包路径，扫包规则，只有@Component等注解修饰的类才会被注册为BeanPredicate<Class<?>> classFilter = clazz -> !clazz.getSimpleName().endsWith("Test");Set<Class<?>> beanClasses = ClassScanUtil.scanPackages(    classFilter,     // 应用包路径    "com.nbf.gateway",);

以上的应用包路径和Spring Boot应用的扫包路径一致。

以下是Bean初始化简化后的逻辑：

protected <T> T getBeanObject(Class<T> requiredType) {    // 首先查找Bean的真实类型    Set<Class<?>> beanClassList = implClassMap.get(requiredType);    int size = CollectionUtils.size(beanClassList);    Class<?> beanClass;    if (size > 1) {        throw new BusinessException(CommonErrorCode.UNKNOWN_EXCEPTION, requiredType.getName() + "包含多个实现类");    } else if (size == 1){        beanClass = beanClassList.iterator().next();    } else {        beanClass = requiredType;    }
    T bean;    Constructor<?> constructor = ListUtils.firstElementOf(beanClass.getConstructors());    if (null == constructor) {        throw new BusinessException(new Exception("class: " + beanClass.getName() + " 构造器为null."));    }    Class<?>[] classes = constructor.getParameterTypes();    Object[] params = new Object[classes.length];    for (int i = 0; i < classes.length; ++i) {        params[i] = this.getBean(classes[i]);    }
    try {        //noinspection unchecked        bean = (T)constructor.newInstance(params);    } catch (Exception e) {        throw new BusinessException(e);    }
    // 处理@Autowired@和Resource    this.processMemberBean(bean);
    // 执行初始化逻辑    Method[] methods = beanClass.getDeclaredMethods();    for (Method method : methods) {        if (method.getAnnotation(PostConstruct.class) != null) {            try {                method.invoke(bean);            } catch (Exception e) {                throw new BusinessException(e);            }        }    }
    return bean;}

以下是在测试类中获取Bean对象的方法，类似@Autowired。MockApplicationContext即是我们Mock Spring容器类的名字。

public class GroupVersionRepositoryUnitTest {
    private final static GroupTunnel groupTunnel = MockApplicationContext.getBeanOfType(GroupTunnel.class);}

Mock数据库

基于以上的思路，我们还需要Mock数据库、外部依赖、中间件。下面小节将重点介绍Mock数据库的一种实现。

▐ 第一层Mock：Example

Mock数据库，最直观的想法就是使用HashMap，也在很多的工程中有用到。看到很多的实现是，在测试中，我们调用DAO层相关代码替换为在HashMap中操作对应数据。这样的实现有两个比较明显的缺点：

每个数据操作都需要手动翻译为对Map的数据操作，费时费力，容易存在翻译偏差
每次翻译过程，需要case by case处理

当然能做到这种替换，还有个前提是，我们将DAO层的操作都统一封装到了一层，这样才能实现使用Mock对象替换的方式实现整体替换。

解决方案

目前大多数的Java工程都使用Mybatis，解决思路是实现一套类似Mybatis的查询工具类，让写Mock实现和真实的DAO层方法调用类似，让翻译过程尽量简单直观。

为此，我们定义了MockExample对应Mybatis的查询参数Param，MockCriteria对应Criteria（用户暂时不感知），MockTunnelUtil对应DAO，Mock对象和Mybatis真实对象映射关系如下图所示：

MockExample、MockCiteria都以DO（Data Object）作为泛型参数，用于指定操作哪张表

原始某段真实Mybatis查询代码如下：

@Overridepublic ApiInfoDO get(String apiInfoId) {        ApiInfoQuery query = new ApiInfoQuery();    query.createCriteria()       .andApiInfoIdEqualTo(apiInfoId);    List<ApiInfoDO> apiInfoDOList = apiInfoDao.selectByQueryWithBLOBs(query);    return firstElementOf(apiInfoDOList);}

翻译后的Mock实现如下：

@Overridepublic ApiInfoDO get(String apiInfoId) {        MockExample<SlsJobDO> example = new MockExample<>();    example.createCriteria()            .andEqualTo(apiInfoId, ApiInfoDO::getApiInfoId);    List<ApiInfoDO> apiInfoDOList = MockTunnelUtil.selectByExample(this, example);    return firstElementOf(apiInfoDOList);}

这里有三点需要对照修改：

创建查询参数，比如：ApiInfoQuery，需要替换为创建MockExample
查询条件增加属性的方法引用，比如：ApiInfoDO::getApiInfoId
使用MockTunnelUtil代替DAO进行查询

MockExample实现主要使用了断言Predicate，以下是In条件的实现：

public <F> MockCriteria<DO> andIn(List<F> field, Function<DO, F> getter) {    Predicate<DO> predicate = obj -> field.contains(getter.apply(obj));    return this.addCondition(predicate);}

▐ 第二层Mock：DAO

上述实现大大简化了Mock 数据库的难度，但仍然存在如下缺点：

查询 & 修改逻辑变更，Mock逻辑需要跟着变更，存在比较严重的一致性问题

很多时候会忘记修改，导致Mock结果和实际运行不一致

如果Mybatis调用逻辑散落各处，没有统一收敛到一层，则Mock比较困难

为此我们需要将Mock的层再向下降一层，直接Mock DAO，在测试中调用DAO，则会调用到我们的Mock实现，做到Mock实现不依赖业务代码变化。

思路

一个比较直观的解决方案是实现一套通用逻辑，将Mybatis的Param直接转换为MockExample，则不需要再手动去写那段翻译逻辑，即可自动将业务实现转换为Mock实现。

难点

这里的一个难点是Mybatis生成的查询Criteria缺乏公共的父类，每个方法的名称都是和用户参数名相关的，比如andApiInfoIdEqualTo。

解决方案

通过分析，我们可以发现，其实问题的根源在于Mybatis的Example、Criteria、Criterion缺乏公共的接口或基类。为了解决这个问题，我们定义了SqlParam、SqlCriterion、SqlCriteria，用来抽象这三个层次的对象。以下是这三个类的定义：

public interface SqlCriteria<Criterion> {
    List<Criterion> getCriteria();}

public interface SqlCriterion {
    String getCondition();
    Object getValue();
    Object getSecondValue();}

public interface SqlParam<Criteria> {
    /**     * 是否分页     */    boolean isPage();
    /**     * 获取页码（1开始）     */    Integer getPageIndex();
    /**     * 获取页大小     */    Integer getPageSize();
    /**     * 获取排序语句     */    String getOrderByClause();
    /**     * 获取查询条件     */    List<Criteria> getOredCriteria();}

我们在Mock DAO层的实现中，定义不同DO的这三个接口实现即可，这样我们就可以基于这些信息将Mybatis Param转换为MockExample了。以下是Mock DAO实现的样例：

@NoArgsConstructor(access = AccessLevel.PRIVATE)public class MockApiInfoDaoImplextends AbstractMockDaoImpl<ApiInfoDO, ApiInfoQuery, Criteria, Criterion>implements ApiInfoDao {
    private static final MockApiInfoDaoImpl INSTANCE = new MockApiInfoDaoImpl();
    public static MockApiInfoDaoImpl getInstance() {        return INSTANCE;    }
    @Override    public Function<ApiInfoDO, Object> getIdGetter() {        return ApiInfoDO::getId;    }
    @Override    protected SqlParam<Criteria> getSqlParam(ApiInfoQuery query) {        return new SqlParam<Criteria>() {            @Override            public boolean isPage() {                return query.getRows() != null;            }            @Override            public Integer getPageIndex() {                return query.getOffset() / query.getRows() + 1;            }            @Override            public Integer getPageSize() {                return query.getRows();            }
            @Override            public String getOrderByClause() {                return query.getOrderByClause();            }
            @Override            public List<Criteria> getOredCriteria() {                return query.getOredCriteria();            }        };    }
    @Override    protected SqlCriteria<Criterion> getSqlCriteria(Criteria criteria) {        return criteria::getCriteria;    }
    @Override    protected SqlCriterion getSqlCriterion(Criterion criterion) {        return new SqlCriterion() {            @Override            public String getCondition() {                return criterion.getCondition();            }            @Override            public Object getValue() {                return criterion.getValue();            }            @Override            public Object getSecondValue() {                return criterion.getSecondValue();            }        };    }}

以下是Mybatis查询条件Param转换为MockExample的转换逻辑：

protected MockExample<DO> convert(Param param) {    MockExample<DO> example = new MockExample<>();
    // 设置条件    boolean first = true;    SqlParam<Criteria> sqlParam = getSqlParam(param);    for (Criteria criteria : sqlParam.getOredCriteria()) {        MockCriteria<DO> mockCriteria;        if (first) {            mockCriteria = example.createCriteria();            first = false;        } else {            mockCriteria = example.or();        }
        SqlCriteria<Criterion> sqlCriteria = getSqlCriteria(criteria);        for (Criterion criterion : sqlCriteria.getCriteria()) {            SqlCriterion sqlCriterion = getSqlCriterion(criterion);            String condition = sqlCriterion.getCondition();            int index = condition.indexOf(NbfSymbolConstants.SPACE);            String property = NbfStringUtils.underLineToCamel(condition.substring(0, index).trim());            String getterMethod = "get" + StringUtils.capitalize(property);            String operator = condition.substring(index + 1).trim();
            // 添加属性            List<Object> valueList = new ArrayList<>();            Object value = sqlCriterion.getValue();            if (value != null) {                valueList.add(value);            }            Object secondValue = sqlCriterion.getSecondValue();            if (secondValue != null) {                valueList.add(secondValue);            }
            Function<DO, Object> getter = obj -> {                try {                    Method method = getDoClass().getDeclaredMethod(getterMethod);                    return method.invoke(obj);                } catch (NoSuchMethodException | IllegalAccessException | InvocationTargetException e) {                    throw new BusinessException(e);                }            };
            // 操作符            OperatorEnum operatorEnum = OperatorEnum.of(operator);            mockCriteria.and(operatorEnum, getter, valueList);        }    }
    // 设置分页    if (sqlParam.isPage()) {        example.setPagination(sqlParam.getPageIndex(), sqlParam.getPageSize());    }    // 设置排序    String orderByClause = sqlParam.getOrderByClause();    if (StringUtils.isNotBlank(orderByClause)) {        example.setOrderByClause(orderByClause);    }    return example;}

不同DAO的Mock实现基本类似，只要拷贝并修改泛型参数即可。

在上述的DAO层Mock实现MockApiInfoDaoImpl中，继承了基类AbstractMockDaoImpl，这是由于同一套Mybatis插件生成的DAO接口方法类似，我们可以定义一个抽象类实现这些接口，DAO层Mock实现继承该抽象类，则不需要再去实现DAO层的接口了。其部分实现如下：

public abstract class AbstractMockDaoImpl<DO, Param, Criteria, Criterion>    extends AbstractMockTunnelImpl<DO, Param, Criteria, Criterion> {
    public long countByQuery(Param param) {        MockExample<DO> example = this.convert(param);        return MockTunnelUtil.countByExample(this, example);    }
    public int deleteByQuery(Param param) {        MockExample<DO> example = this.convert(param);        return MockTunnelUtil.deleteByExample(this, example);    }}

▐ 小结

这里我们介绍了完整Mock数据库的一种思路，这种Mock实现仍然存在一些缺陷：

暂时无法支持事务
无法实现数据库的特性，比如必填校验等

以上两点都可以在未来支持。它的优点也是比较明显的：

执行速度快
不依赖数据库已有数据，不会受数据库已有数据的影响，不会造成脏数据

造数据

基于以上的两个基础设施：Mock Spring容器、Mock数据库，可以使得写测试变得更加容易，对于测试中比较费时费力的造数据，也可以更加快速的实现。

在日常的集成测试中，造数据是一个比较麻烦的事情，虽然我们使用测试的RollBack机制，可以保证对现有数据无污染。但是在某些依赖已有数据的情况，则比较麻烦。如果预先造了这样的数据，可能被其他人无意修改。而且在一些查询场景，已有数据可能对测试执行结果造成干扰。

有了这套完整的Mock工具，我们可以使用线上数据进行测试，更加快捷的回归 & 发现问题。

▐ 造数据的几种方式

常见造数据的两种方式：

通过属性设值。即各种New对象，Set属性
通过JSON解析文件

第一种方式的开发维护成本较高，尤其是构建大对象时。

造数据的来源，也有两种方式：

通过DO（Data Object）去造数据，即把数据直接插入数据库
通过领域对象造数据，调用Repository去创建数据

根据数据来源也分为日常、线上。显然线上数据质量远高于日常，更容易发现问题。

▐ 方案

将数据库查询到的线上（日常）库数据，转换为领域对象，有比较大的转换成本；如果转换为DO对象，也有一定成本，但成本较低。所以本方案采用了后一种方案。

但是把数据库查询出来的数据拷贝出来，直接转换为DO所需要的JSON格式文件，也有较高的成本，所以这里直接使用字段拆分解析的方式读取其内容，再反射设值到DO对象中。这里有个问题，数据库查询出来的字段顺序可能和DO中字段定义顺序不一致，所以需要有个元信息文件，用于指定数据库查询出来数据的字段顺序。

以下是本测试框架的 TableLoadUtil#Load 方法，用于将数据库查询出来的数据转换为DO数据。第一个参数对应的文件内容是数据库查询出来的各行数据，第二个参数对应的文件内容是DO的字段顺序。

public class TableLoadUtil {
    /**     * 根据元信息定义加载数据     * @param fileName 表数据文件路径     * @param metadata 表字段顺序元信息定义文件路径     * @param clazz DO类     */    public static <T> List<T> load(String fileName, String metadata, Class<T> clazz);}

这样就实现了通过数据库数据直接快速造数据的目的，推荐使用线上数据（但对敏感数据需要脱敏），保证测试质量。

我们需要将测试涉及到的表的少量行数据（不需要全量）查询出来，并添加到对应文件中。对于复杂场景，这种造数据的方式显然更加高效。而且可以做到每个测试的数据都是重新初始化的，互相隔离不影响。这些数据还可以在不同测试间共享。不需要启动完整的Spring容器，只需要启动Mock的Spring容器，保证测试启动（无论工程多么庞大）在10秒以内，大部分测试启动在3秒以内。

比较通用的做法是在测试基类里做数据的初始化和清理，具体的测试类继承该类，以下是一个线上应用的测试基类：

public class DataPrepareBaseOnTable {
    /**     * 准备数据     */    @BeforeClass    public static void prepare() {        cleanUp();        initData(BackendServiceConfigDO.class, MockBackendServiceConfigMapperImpl.getInstance()::insert);    }
    /**     * 清理数据     */    @AfterClass    public static void cleanUp() {        MockBackendServiceConfigMapperImpl.getInstance().getCache().clear();    }
    /**     * 初始化数据     */    public static <DO> void initData(Class<DO> clazz, Consumer<DO> insertMethod) {        String objName = clazz.getSimpleName().substring(0, clazz.getSimpleName().length() -2);        List<DO> doList = TableLoadUtil.load(            "table/" + objName + "/" + objName + ".txt",            "table/Metadata/" + objName + ".txt",            clazz);        NbfListUtils.forEach(doList, insertMethod);    }}

这里可以设置为整个测试类初始化 & 清理一次数据，也可以设置为单个测试初始化一次（推荐）。

造数据的流程大致如下：

▐ 小结

上述小节介绍了一种，通过直接将数据库查询到的数据转为测试准备数据的方案，该方案的优点如下：

构造数据足够简单快捷
避免了测试数据被外部意外修改，数据变动过程可以通过git记录查到
各个测试之间测试数据隔离
测试执行速度快，绝大部分测试启动在10秒以内
测试数据质量较高，可完全使用线上数据
测试数据相对干净、纯粹，避免测试环境很多脏数据导致测试不稳定

以上的优点主要是相对于集成测试 + @RollBack的传统测试方式

该方案的成本主要在于：创建字段顺序文件。但对于每张表是一次性的，后续增加字段只需追加新增字段即可

可能的不足是：

如果数据库新增字段，可能需要更新对应表文件

如果测试不涉及新增字段，大部分是向前兼容的

当数据量较大时，管理表文件可能有一定成本

推荐使用文件行排序，避免插入重复数据，且要使得数据尽量少，仅包含测试需要的行数据

Mock中间件

mock中间件相对较为简单，这里仅把我们的方案做简单介绍。

▐ Mock RPC框架

只需要创建Mock对象，记录测试case情况下，日常或线上该接口的出参即可，推荐用JSON文件保存，让Mock方法根据入参加载对应的出参JSON文件作为结果返回。

▐ Mock Redis

也通过HashMap进行Mock即可，实现复杂度取决于需要覆盖其功能的完整性。

▐ 小结

本文介绍了一种秒级启动的集成测试框架，使用该框架可以方便的修改和完善测试用例，使得测试用例成为测试过程的产物。测试通过之后，也同时沉淀了覆盖多种测试场景的测试用例。可以方便的使用线上数据作为数据来源，保证测试的质量。甚至在遇到线上问题时，可以将这些数据作为数据来源，用测试用例执行来反复重现 & Debug这些问题，同时沉淀线上问题的测试用例，保证后续代码改造或重构不会重新触发该故障。

团队介绍

物流技术基础技术团队，主要技术产品：NBF（New-Retail Business Framework），提供了服务DevOps，LowCode编排和云原生基础设施能力，旨在成为新零售PaaS平台化和SaaS产品化的技术底座。

¤ 拓展阅读 ¤

3DXR技术 | 终端技术 | 音视频技术

服务端技术 | 技术质量 | 数据算法

继续滑动看下一个

大淘宝技术

向上滑动看下一个