组件化预测系统在供应链行业的实践

如果无法正常显示,请先停止浏览器的去广告插件。
分享至:
1. 组件化预测系统在供应链行业 的实践 伍斌杰 首席算法架构师及AI预测算法负责人
2.
3. • 销量预测系统介绍 • 多样化复杂需求带来的挑战 • 算法组件化平台解决方案 • 案例分享
4. 预测系统是智能供应链的核心燃料 供应链核心 需求 需求存在不确定性 供应链本质 预测是优化的开始 市场需求+消费者需求 成本 全局运筹优化 预 测 系 统 算法策略 AI 技术 大数据技术 机器学习 深度学习 FFORMA Ensemble 数据存储 实时计算 统计模型 经济学模型 Stacking 多场景策略 数据模型 分布式计算 大数据 预测 仓库 预测 中长期 预测 短期 预测 多维度 预测 C2M反 向定制 合理 铺货 降低库 存水位 参数 推荐 参考制 定计划 选品规划 商品布局 库存规划 智能供应链规划系统 仿真模拟 需求计划 多渠道 预测 短期 预测 分位 数预测 参考 协同 降低 周转 提升 满足率 产销协同 库存优化 智能供应链计划系统 智能补调
5. 多样化复杂需求为预测系统带来的挑战 早期简单需求 业 务 场 景 单点均值预测 多样复杂化需求 多分位点区间预测 时序模型池 AI 算 法 单一简单时序模型 ARIMAX ETSX TBATS CROSTON SMA SBA ARMAX Snaive 多层级预测 多场景预测 时间维度 空间维度 Bottom to Up 常规预测 备件预测 天、周、月 区域、仓、门店 Up to Bottom 新品预测 维护预测 季、年 供应商、经销商 Mid to Up & Bottom 促销预测 多周期预测 机器学习模型池 Random Forest GBDT XGBOOST 深度学习模型池 多模型融合策略 RNN FFORMA LSTM WEOS DeepAR Transfer WAVENET CrossValid P 1 THETA Holt Winters SA 多维度预测 LightGBM + 销量需求分布 BAND-A … BAND-F LightGBM + 分位数回归 P 50 P 75 … P 99 LightGBM + 分位数回归 + CQR P 50 P 75 … P 99 Gamma损失 × Poisson损失 LGBM 1 LGBM 2 … LGBM n CQR × LGBM 1 CQR × LGBM 2 … CQR × LGBM n
6. 预测算法项目上线工作复杂、耗时长 1 数据接入 数据对接 2 3 4 5 6 工程调试 结果校对 持续监控 灰度上线 试运行 预测 客户系统 预测系统 需求汇集 01-01 01-02 01-03 01-04 01-05 时间 根据业务需求选择指标 异常检测 缺失值处理 数据变换 log(1+x) MAPE WMAPE SMAPE MAE MASE MSE 业务变化? 需求变更? 模型测试 指标对比 指标分析 模型调优
7. 预测算法模型、项目调试、调优复杂 算法模型 FFORMA WEOS 迁移学习 深度学习 调 试 调 优 开始 结束 开始 结束 模型建模 拟合模型 功能开 发 流 程 串 联 数据对 接 数据测 试 BUG修 复 Y 调试完 成 数据 清洗 数 据 分 析 特征 工程 时间序列模型 机器学习模型 N 环境部 署 线上测 试 深度学习模型 循环迭代 不断优化 回测 调优 业务 修正 结果 输出
8. 多项目开发部署策略混乱,工作量大 标准预测系统产品建设 版本迭代1 版本迭代2 版本迭代… 复制代码 复制代码 功能迁移 功能迁移 功能迁移 KA项目1 复制代码 KA项目2 版本迭代N ? KA项目3 … 复制代码 功能迁移 KA定制化项目需求 “标品”其实不是标品 糟糕的版本迭代策略 多项目迁移,并行开发,工作量几何级上升 KA项目4
9. 解决方案:算法组件化平台——灵活支持全场景预测需求 智能预测系统 需求预测 应用支持 库存优化 选址布局 运输优化 基线预测 新品预测 智能采购 补调清滞 仓网选址 分拣选址 时效监控 动态路由 网络仿真 促销预测 长期预测 仓间均衡 多级库存 终端选址 门店选址 网络诊断 路由规划 场内仿真 行业模板 组件化 基础支持 需求模板 配置文件 算法 平台 仿真优化 核心工具和组件库 执行器 算法模型仓库 算法策略中心 FFORMA 分位数预测 DeepAR Prophet WEOS 趋势相似引擎 ARIMAX ETSX PostPro …… XGBoost …… 数据系统 计算支持
10. 算法组件化平台的架构设计-三部分,三分离 项目需求 选择相应组件 生成项目配置 配置文件 核心工具和组件库 • 以实际项目需求为背景 • 定义数据如何获取 • 核心工具类 • 算法模型类 • 一个数据流水线任务 ->配置文件 • 设置组件的参数 • 核心常见数据结构 • 业务类(前,后处理) • 定义组件之间上下依赖关系 • 可复用配置模板 • 所有功能都开发成组件 • 数据读写类 读取配置,组装组件 执行的具体内容 执行器 • 秘书 • 自动检查数据类型是否兼容 • 组装、设置 • 自动缓存Spark DataFrame
11. 易卜的组件规约 使用 Conf Component 抽象类 PinBase定义 copy_from方法进行转换 PinBase Source PinBase Filter PinBase PinBase Destination PinBase PinBase 出入Pin必须继承PinBase SparkDataFrame PanDataFrame 各Component定义的handle函数用于执行 继承 继承 实例类 FformaFeatureFilterConf FformaFeatureFilter SalesData …… OrderData ConfigData
12. 易卜组件数据兼容性处理 1 根据下游所需的列名筛选上游数据 Filter str str A B str C 输出 str str int str str D E A B C 转换 输入 Datetime 2 根据下游声明转换上游列类型 BigInt Date Str Int Float Double Filter
13. 易卜强大灵活的配置能力 算法工程师 配置模板 写入 配置文件 全局配置  用户 组件配置 预测时 间 配置参数  预测时间  场景 各组件通用  场景  商家名  商家名  模型池  预测粒度  是否多进程 前端系统 赋值 读取 调用 执行器 组件库 该组件个性定 义
14. 易卜的组件迭代策略和注册中心 • 必须确保同名的Filter兼容老版本 (Backward Compatible) FformaForecastFilter1 项目A • 若不兼容,必须新建Filter,但是内部可以调用同一个类,减少代码冗余 FformaForecastCompute 不兼容的改动 兼容 不兼容 FformaForecastFilter2 项目B Conf添配置(配默认值) Conf添配置(无默认值) Conf减配置 FformaForecastFilter1.so 修改原有字段为不兼容的类型 修改原有字段为兼容的类型 入PIN增加 注册 中心 FformaForecastFilter3.so 出PIN增加 入PIN减少 出PIN减少 FformaForecastFilter2.dll
15. 易卜执行器设计 执 行 准 备 阶 段 执 行 各 子 节 点 参数解析 初始化 命令行参数 YAML配置 设置SQL或 Spark环境 检查各输入项是 否为Ready 日志Logging 生成执行顺序 创建节点,生成链表 SQL对象 检查上下游兼容性 Spark对象 展开为顺序表 转换并设置输入 根据结束节点判断,执行结束 在上下文中执行 handle方法 将各输出项标记 为Ready
16. 易卜流式处理DAG 执行器需将有向无环图(DAG)解析为顺序表 • 设置开始节点(Source1)和结束节点(Virtual Component) • 采用深度优先搜索,并向前回溯的方法,生成节点执行顺序表 Start End Source1 Filter2 Filter3 Destination1 Virtual Component Filter1 Filter4 Source2 Source1 Source2 Filter1 Filter2 Destination2 Filter3 Destination1 Filter4 Destination2 Virtual Component
17. 执行器的自动类型转换及缺失处理 Input Output • 分别定义为Spark DataFrame及Pandas Spark DataFrame Filter DataFrame N/A • 支持对两种类型的相互转换 Transform Input Pandas DataFrame 配置项中的默认值 Conf: default value Filter 类型 Str Column 1 Column 1 Str Int Column 2 Column 2 Int Float Column N Pandas DataFrame Spark DataFrame Column N 列名 列名 类型 • 可在配置中声明默认值,对缺失值进行处理 Filter Float
18. 案例分享-消费品行业WM基线、新品、促销预测 预测场景多样 基线预测 新品预测 促销预测 数据场景复杂 促销套装 常规套装 多层套装 预测精度要求高 长期预测 滚动预测 分级预测 预测需求多样、复杂 消费品供应链模式 京慧 | 易卜 大数据迁移学习 多模态数据应用 多模型组合应用 资源自适应 基线预测 新品预测 促销预测 预测准确率 自动化预测 80%+ 库存周转降低 30% 库存满足率提升 30%
19. 案例分享-汽后行业WL汽车备件预测 客户画像与感知 内部产品画像 外部产品相关 历史交易数据 其他相关因素 智 能 预 测 SKU数量高达50W+ 供应链网络优化 销量数据极为稀疏 商品布局 汽车备件替换链复杂 库存优化 多场景预测(采购+补调) 供应链供应计划 智能预测驱动全网优化 整车厂 + 4S店 备件供应链模式 京慧 | 易卜 预测准确率 开发效率高 开箱即用 自动化 资源可伸缩 丰富组件库 资源自适应 库存周转降低 40%+ 库存满足率提升 模型自动调优 智能化 70%+ 采购预测 补调预测 20%+ 人效提升 + 30%
20.
21.

Home - Wiki
Copyright © 2011-2024 iteam. Current version is 2.137.1. UTC+08:00, 2024-11-11 12:37
浙ICP备14020137号-1 $Map of visitor$