小红书训推异构引擎的设计与应用

小红书训推异构引擎的设计与应用

摘要

近年来小红书业务一直保持高速增长，日均曝光、互动 UV 和日均搜索量都达到了非常高的水平。

从模型工程的角度来看，面临的主要挑战包括：

• 首先，随着模型的复杂度增加，其处理的数据量也越来越大；

• 其次，计算流程的需求也会随之增长；

• 此外，模型的应用场景也越来越广泛，不仅限于传统的搜索广告和推荐，还包括电商和直播等新业务。

面对业务高速增长带来的挑战，我们需要通过引擎技术有效降低成本，并为业务提供迭代空间。