美团到店商家IM架构演进

如果无法正常显示，请先停止浏览器的去广告插件。

1. 美团到店商家IM架构演进美团核心本地商业

2. 个人介绍伟伟美团技术专家，近10年系统设计与建设经验，目前从事美团到店商家IM相关的研发工作。

3. 目录 • 背景 • 平台化演进 • 稳定性保障 • 总结

4. 目录 • 背景 • 平台化演进 • 稳定性保障 • 总结

5. 业务背景聚合餐饮、酒店、民宿、门票度假、交通、休闲娱乐、丽人医美、教育母婴、Life Event以及餐饮SaaS 、充电宝等丰富业态，为用户提供更丰富、更便捷的多场景消费体验，帮大家吃得更好，生活更好。同时通过技术创新为生活服务商家提供数字化管理系统，帮助商家改善经营流程并提升经营效率和综合收益。

6. 业务流程一家门店一家门店用户商家平台商家售前：澄清用户需求，提升转化售中：提供订单信息沟通售后：提升客服效率用户

7. 应用场景商家咨询一家足疗店医师问诊一家剧本杀店一家牙科店官方导购

8. 系统演进路线智能化平台化规模化线上化业务阶段：探索期业务策略：试点打磨产品体验，逐渐扩展至其他行业技术策略：简单快速建设新能力、功能快速扩展至其他行业业务阶段：进攻期业务策略：快速扩行业、提升活跃用户数、提升商家回复率技术策略：核心服务拆分合并、容量规划业务阶段：发展期业务策略：探索医师问诊、官方导购等新形态；试点智能化能力技术策略：核心流程统一和配置化业务阶段：发展期业务策略：通过自动问答等智能化能力提升用户体验和商家效率；持续探索新业务形态技术策略：架构平台化演进、集成智能化能力

9. 系统挑战（迭代效率）接入行业多、行业差异大系统扩展难文本发送者案例线下券接收者用户、商户、手艺人、匿名用户用户、商户、手艺人、匿名用户语音通话用户商户团单用户、商户、手艺人、匿名用户用户、商户、手艺人、匿名用户套餐预约礼行业全部全部全部触发时机账号手动触发用户挂断语音通话后发送账号手动发送个性流程识别手机号/ 微信号并发起预约更新通话记录点击交互无唤起语音通话表情定金收款消息类型100+ 无跳转团详页流程 = 消息类型 X 涉众 X 场景消息发送流程步骤多

10. 系统挑战（质量保障）业务质量诉求高系统复杂未读率回复时长 30s 1min 5min 10min 回复越慢，用户流失越多（系统不丢消息）核心接口圈复杂度高

11. 目录 • 背景 • 平台化演进 • 稳定性保障 • 总结

12. 整体思路发送消息流程 1 • 新老功能不断变更，补丁式代码，多种架构模式并存模块B 模块C 模块D 发送消息流程 3 发送消息流程 4 发送消息流程 5 • 核心主流程功能不断扩展、频繁变更、交付要求高扩展流程1 模块A 发送消息流程 2 配置管理扩展流程2 扩展流程3 扩展流程4 统一流程统一领域模型服务拆分接口重构（业务流程抽象、服务分层）（流程统一、配置化）扩展流程5

13. 服务拆分（业务流程抽象）业务用例业务流程（从业务用例出发，按照涉众、功能点进行划分）

14. 服务拆分（业务流程划分）商户业务流程商家权限用户功能设置数据报表消息权限用户/商户聊天页会话页消息收发架构原则 • 纵向强隔离：按业务流程、质量属性、商家权限商家设置用户权限消息发送消息查询性能要求高一致性要求高性能要求高 QPS：数百 QPS：数万变更频率低变更频率低变更频率低一致性要求高性能要求高变更频率高变更频率低关注点分离（基于功能相关性、变化频率、质量属性做拆分）功能变化频率垂直拆分 • 横向弱依赖：限流、降级、模型转换 • 扁平化：服务内部逻辑水平分层

15. 服务拆分（服务分层）架构原则：层与层交互必须通过接口 api、rpc、job、mq 接口层流程服务用例层防腐接口领域服务工厂、仓库、实体、值对象、领域事件数据 DB、RPC、KV 访问层通用能力沉淀至领域层流程层通过复用领域层能力扩展场景演进策略： • 从上往下：沉淀复用能力、系统内部重构、测试保证重构质量 • 从下往上：提供各层能力、编排业务流程

16. 服务拆分（实施模式）拆迁者模式修缮者模式 A A C A’ C B 遗留系统 C B’ 遗留系统 A’ C’ B D A D B D’ B’ 遗留系统新架构 C’ D 新架构 D’ A B C B 遗留系统 C B D 遗留系统 A’ C C’ B D 遗留系统 C’ C’ B’ D D’ 新架构 D’ C C B’ B D A A A C 绞杀者模式 A A D’ D D’

17. 服务拆分（模式抽象、小步快跑）整体策略垂直合并基础模式提炼模式试点水平合并模式推广水平拆分任务拆解：粒度足够小，不长期占用资源周期较长，变动范围大，资源风险大项目风险架构变动，影响面大，质量风险大无架构演进经验，质量难保证风险控制执行计划：先试点再推广，非核心→核心过程跟踪：分级验收（整体→里程碑→步骤），阶段复盘

18. 服务拆分（架构方法总结）阶段一（单体服务）涉众A 涉众B 服务 DB 新业务（探索业务）阶段二（按系统用例进行纵向划分） 2.2 路径级 2.1 涉众级涉众A 涉众B 服务服务 DB 涉众A 服务 2.3 用例级涉众B 服务阶段三（流程和领域水平拆分）服务涉众A 服务 DB 涉众B 服务服务 DB 重流程轻领域（大部分业务）关注点分离（基于功能相关性、变化频率、质量属性做拆分）涉众A 涉众B 涉众C 流程服务流程服务流程服务服务领域层服务领域层服务 DB DB 流程复杂、领域复杂（复杂交易平台）

19. 流程统一（流程抽象）用户发商户文本 • • • 商户发用户团单文本内容审核门店开通权限黑名单用户风控/发送频次 • 文本消息生成机审 • • 门店权限校验 • • • 用户发手艺人文本发消息统一流程用户权限校验 • • • 手艺人权限校验 = 门店开通权限 • 手艺人开通权限 • 黑名单权限校验收发权限校验消息ID生成文本拼装 • • • 团单消息生成门店开通权限黑名单商家回复权限 • 消息保存内容审核 • + • • 内容审核内容合法性校验 + 消息ID生成团单信息查询团单拼装 • • • • • • • • + 消息表保存会话表更新会话未读数更新 • • 消息内容获取与拼装商家长连推送商家push • • 手机号预约微信号预约商家超时通知 • • • 短信触达微信通知 IVR 用户长连推送点评公众号消息推送手艺人消息表保存会话表更新 …… 消息保存预约消息推送用户消息保存消息ID生成文本拼装消息生成消息表保存会话表更新 …… 消息保存文本消息生成机审消息推送商家 • • + 消息及关联实体变更手艺人长连推送手艺人通知消息推送手艺人超时通知预约 • • + 接收方及发送方多端触达手机号预约微信号预约 • • • 短信触达微信通知 IVR 后置扩展消息发送成功后触发流程

20. 流程统一（领域划分） = 发消息统一流程 • • • • 权限校验用户与商户聊天用户与手艺人聊天机器人自动回复 …… • • • • + 黑名单发送频次商家回复权限 …… 流程权限域内容审核 • • + 机器审核 …… + 消息生成 • • • • • 消息ID生成文本拼装图片拼装商品拼装 …… 内容安全域消息保存 • • + + 消息推送消息表保存 …… • • • 消息域 • • • 商家长连推送用户长连推送 …… 触达域用户与商户聊天用户与手艺人聊天 …… 机器人自动回复 …… …… 领域层权限域内容安全域消息域预约机器人自动回复 …… 流程流程层消息发送统一流程后置扩展触达域门店开通权限 …… 机器审核消息保存 …… …… 用户长连用户push 黑名单 …… …… …… …… …… 商户长连商家push …… …… …… …… …… …… …… ……

21. 配置化（扩展点设计）扩展点识别配置规则选取统一流程扩展点实现权限实现统一身份识别权限校验开始门店开通手艺人权限黑名单用户限频内容审核按照（发送者，接收者，场景，消息类型）查询规则审核实现风险词风控找到？ Y 返回规则集消息ID生成 N 屏蔽实现消息屏蔽内容拼装消息存储推送文案拼装消息推送发送方可见接收方可见内容拼装实现文本图片商品表情推送实现用户长连商户长连商户push 用户push 按照（发送者，接收者，默认场景，消息类型）查询规则找到？ N 告警，返回兜底规则集 Y 告警，返回规则集

22. 配置化（统一模型）消息类型众多，展示差异，数据源差异统一模型消息气泡模板渲染消息气泡开发时注册一家婚纱摄影店展示时下发模板ID 后端案例线下券套餐消息气泡气泡A 前端模板库气泡B 气泡C 模板1 气泡D 气泡E 模版2 预约礼公共属性扩展属性 ID key1：value1 属性1 key2：value2 id：标识模型定义属性2 表情属性3 扩展属性（map）定金收款属性元模型扩展属性集 attribute1 key：英文标识 desc：描述 attribute2 数据存储公共属性（结构化）扩展属性（非结构化json）

23. 配置化架构管理域与运行域分离，从发消息和查消息视角进行全链路管理查消息场景发消息场景用户与商户聊天用户手艺人聊天医师图文问诊 …… …… 机器回复聊天历史查询会话列表查询商品列表查询 …… 商品消息类型（100+）文本图片表情团单 …… …… …… 运行域管理域查消息模型管理配置管理发布管理发消息统一身份定义配置定义配置下发消息类型定义配置变更变更管理扩展能力实现统一接口模型场景定义配置模板正确性校验扩展点定义统一取数模型账号类型定义扩展实现采集监控告警统一流程统一数据存储扩展实现选择兜底规则气泡模板下发

24. 目录 • 背景 • 平台化演进 • 稳定性保障 • 总结

25. 整体思路服务隔离模块隔离 IM 分级标准 web socket … 消息量 … 网络抖动监控资源隔离基础设施隔离商户量行业时段 redis 规则维度消息类型端控制影响范围保障核心链路监控（故障隔离）（消息数据一致性）（立体化）

26. 故障隔离（隔离层次）一家婚纱摄影店服务隔离（垂直拆分、水平拆分）模块隔离（包隔离、水平分层、主辅分离）资源隔离（存储、线程池、读写）聊天页消息中心核心，一致性要求高非核心，一致性要求低峰值QPS：数百峰值QPS：数万基础设施隔离（泳道、IDC、set化）隔离的层次场景多、功能多，重要性、质量属性差异大重点：服务垂直拆分重点：核心流程主辅分离分场景不同的存储选型、独立线程池、CQRS 核心业务重点保障

27. 故障隔离（服务隔离）涉众、功能相关性用户入口1 商家入口1 功能设置1 用户入口2 商家入口2 功能设置2 用户入口3 商家入口3 功能设置3 用户端-入口商家端-入口商家端-设置变化频率、质量要求扩展场景1 消息发送消息查询扩展场景1 扩展场景2 消息发送扩展场景2 消息查询扩展场景3 扩展场景3 用户/商家端-消息消息扩展场景消息查询消息发送 • 变化频率高 • 变化频率低 • 变化频率高 • 核心 • 非核心 • 非核心 • QPS：数百 • QPS：数万 • QPS：数百涉众：流量、登录态、安全要求差异变化频率：同一功能的不同模块变化频率差异功能相关性：功能内聚，不同功能变更频率差异质量要求：核心非核心、流量大小

28. 故障隔离（主辅隔离）核心非核心混杂，步骤多核心流程，稳定不变辅助流程，自由扩展权限校验 …… 长连推送 …… …… 权限校验内容审核消息生成 …… …… …… 内容审核消息存储预约短信通知消息生成 …… 电话通知 …… 微信通知预约短信通知延迟通知电话通知长连推送微信通知发送MQ 消息存储 MQ …… 主流程辅流程

29. 消息数据一致性重试 1.推送消息 IM 2.推送失败 3.写入重试队列加锁防并发 web socket 频繁断线重连网络抖动 web socket redis 多次回调 2.重连成功回调 IM 3.读取队列 4.重试推送 web socket IM IM sever websocket 1.获取锁（setnx） messageId：12344 message：今天开门了 2.重推用户重连触发重试 IM client 2.拉取聊天记录 1.重连成功 5.移除队列 redis client 1.onConnect事件多次重推推送失败写入队列前端重拉推送消息 redis 3.释放锁（delete）吗前端基于消息ID去重

30. 立体化监控分层监控分级监控业务场景多，行业差异大分级标准 Web端（请求量、完全加载时间……）商户预约量量消息预约量价值监控前端 Native端体量差异规则维度（网络成功率、Crash……）全链路监控行业时段消息类型业务指标（消息发送量、会话查询量、预约量……）应用层端级别行业时段规则 P0 行业A 全时段 5分钟内流量周同比下降50% 周一至周五 30分钟内流量周同比下降50% 周一至周五 30分钟内总量低于50 应用行业B （请求量、并发量、响应时间、成功率……）行业C 行业D 中间件（MySQL、redis）流量差异 P1 （并发量、慢查询、大key……）行业F 系统层行业G 基础设施（HULK容器）（gc、cpu……）行业E P2 行业H 行业I

31. 稳定性保障总结事前事中（降低概率）（快速发现，减小影响）（防止复发）故障隔离容量管理容错管理监控自动化测试一致性保证性能保证告警依赖管理安全管理部署容灾日志预案指标巡检故障演练根因分析方案设计最佳实践变更管理故障处理SOP 代码规范 code review 团队分工系统能力流程机制事后复盘系统 case复盘

32. 目录 • 背景 • 平台化演进 • 稳定性保障 • 总结

33. 总结平台化演进稳定性保障服务隔离模块隔离模块A 模块B 模块C 资源隔离模块D 基础设施隔离故障隔离服务拆分（业务流程抽象、服务分层） web socket IM 网络抖动 redis 扩展流程1 配置管理扩展流程2 扩展流程3 扩展流程4 扩展流程5 消息数据一致性统一流程商户统一领域模型 … 量分级标准消息 … 量核心接口重构（流程统一、配置化）监控规则维度行业时段消息类型端立体化监控

34. Q&A