阿里国际AI业务下的工程框架演进与实践

如果无法正常显示,请先停止浏览器的去广告插件。
分享至:
1. 2026.03.21 阿 巴巴全球总部_访客中 中国杭州 HANGZHOU CHINA
2. 国际AI业务下的 从模型到 主智能代理的跨越 成式 阿 程框架演进与实践
3. 讲师介绍 李平 阿 巴巴 级技术专家 AI Business平台技术 LangEngine 作者 阿 程框架负责
4. 1 国际AI业务的交付效率和规模化 模型从 智能体 成范式 向推理范式 临更多复杂场景挑战
5. 2023年 阿 2024年 LangEngine 开发 阿 低代码应 2025年 AgentMagic 开发 今 Agentic ADK 代码应 开发 框架2.0版本正式发布 试点业务开始尝试接建设阿开发平台建设serverless架构下AgentEngine Lazada Smart Assistant上线AI业务场景在国际泛落地持更复杂与个性化AI业务场景 框架1.0版本正式发布 AI框架0.1版本的测试版本发布 模型应 AI 国际AI应
6. 业务侧:规模化受阻 • 易 性差:API接 复杂,难以 撑业务快速 爆发需求。 编写代码进 功能验证, • 评测昂贵:依赖 效率低且成本 。 算法侧:复 与部署难 • 复 性低: 程与模型代码强耦合, 法形成 统 的标准服务。 • 部署重:每次新业务需重复开发“ 程+模型” 代码,升级维护繁琐。 程侧:效能与稳定性隐患 • 开发成本 :缺乏统 框架,代码重复造轮。 • 维护困难:系统耦合度 ,故障排查复杂。 • 稳定性 险:缺失全链路监控,离在线资源未 隔离,且强耦合代码威胁 关安全。 国际AI业务的交付效率和规模化
7. Part 01 统 开发框架
8. LangEngine框架 LangEngine是23年5 从阿 作原理 巴巴集团内部发起的LLM 程框架 LangEngine-Core LangRunnable动态引擎 LangEngine框架结合国际电商业务尝试场景落地,在24年7 底正式上线第 版 向 产环境的 可 AI应 开发框架(ADK 1.0), 迄今为 有2000+的内部社区成员,有1000+系统接 ,其中有50+核 贡献者。24年10 正式对外开源:AIDC-AI/ali-langengine。
9. AI应 解决 基座:阿 接 LangEngine 框架(全 案:构建统 命周期/权限流控) :HTTP/HSF 双模 + 流式/异步多协议 路由:统 持 关屏蔽后端异构(HTTP/HSF/模型服务) 性能:多级元数据缓存 + 节点异步化 + GPU 弹性伸缩 运维:SLS+Blink+Hologres 实时全链路追踪 可关架构 AI 关,解耦程模型,集成多稳机制
10. 案例分析 Use Case: 基于LLM的意图分发与实体识别 —— Lazada Smart Assistant 框架使 策略 意图分发 • 规则+LLM+Agent多级分发,覆盖全场景 • 准确率超95%,新意图少量样本快速上线 实体识别 • 精准提取4类核 实体, 撑业务场景 • Tool Calling 效识别,准确率超91% 赋能运营提效,助 告主增
11. AI业务正经历从固定流程执 向 主推理决策的 范式转移。随着 模型推理能 (Reasoning) 的增强,业务形态划分为三个层级: • Fixed Work ow:基于规则/SOP/RPA的确 定性流程。 定义主 流程, • AI-Enabled Work ow: 关键节点嵌 AI能 (如翻译、修图)解决传 统编码难题。 • Agentic Work ow: 由模型主导推理、规划与 决策(如智能退款判定),实现“感知-决策- 执 ”闭环 随着推理 模型的普及,平台侧需重点解决以下 盾: • 存量业务的兼容与演进 • 平台对创新范式的 撑效率 LLM从 向推理范式
12. 基于 作流的AI编排架构 - AgenicMagic框架 从固定SOP到 双模共存:Work ow与AI Agent能 泛化编排:灵活并通 化 共存 持各种AI应 范式 可视构建:基于可视化的FlowUI 思维链增强:包括CoT、ToT等思维链节点 流转:数据上下 流式、同步/异步的 全域适配:流式/ 的流转和转换 上下 持 主决策,兼容存量与敏捷创新的全栈编排引擎
13. 单智能体框架架构 聚焦 FunctionCall:轻量直连,适 于简单任务 闭环 Planning & Execute:LLM 主分解任务 + 循环执 ,适配中等复杂度 Sequence Planning & Execute Flow:预 定义 作流 + LLM 填充参数,保障关键路 径可控 Custom Agent:容器化封装多智能体(如 AutoGPT / Conversational Agent), 持 阶协同与领域定制 主推理与闭环执 的核 引擎设计
14. 多智能体框架架构 构建 Suprvisor:每个 agent与单个主 agent通信。主agent决定接下来应 调 哪个 agent Supervisor (tool-calling): Supervisor的特例。单个agent可以 表示为 具 Network:每个agent都可以与其他 agent通信。任何agent都可以决定 接下来要调 哪个其他agent Hierarchical:定义 个多分层 Supervisor的multi-agent, 领域 设计模式 分 与群体协同的分布式任务解决 络
15. GUI智能体框架架构 赋予AI像 AI :APaaS Gateway 接 AI 应 运 时 智能体引擎:Flow + AgentEngine 编排任务, 异步持久化状态 资源中枢:统 交付接 对接 RPA 与云电脑 + WebSocket 推送, Ops层:管理 影云/本地设备,预装阿 链(钉钉、RPA、Chrome插件等) 状态闭环:OCR+状态机监控机器 态,驱动 UI 任务实例更新 /应 具 /锁状 样操作软件界 的原 执 能
16. 案例分析 Use Case: 以图 键发品
17. Agent 临更多复杂场景挑战 问题挑战:如何提升AI业务的研发效率 个性定制:涵盖前后置插件、流式 预、结果拦 截及字段动态注 等深度个性化需求,强调架构 对 标逻辑的极致兼容能 深链可观测:针对 链路、深嵌套导致的 盒问 题,强调全链路追踪、断点定位及超时治理的透 明化能 动态编排:应对频繁变更与复杂业务逻辑,强调 流程的弹性调整能 ,以 撑 频迭代 不重构 底层 效能闭环:聚焦解决内部复杂业务流转中的低效 堵点,实现从任务发起到执 完成的 动化闭 环,提升整体 效
18. 1. 可视流式开发 秉承 Google ADK 理念,内置可视化调试 具与全链路流式 交互,让 Agent 开发过程透明、 效,彻底解决 盒难题。 2. 多模原 执 缝对接阿 Ovis 多模态模型,深度融合视觉与 本;原 集成 Computer/Browser Use 等最佳实践,赋予智能体 “看、点、操”的实战能 。 3. 全域协议互通 基于 SmartEngine 性能引擎,天然 持 A2A(智能体互 联)与 MCP(上下 协议)双标准;打通 AppBuilder 原 化组件,实现同步/异步/双 全模式灵活编排。 4. 效记忆 程 构建 Session/Memory/Artifact 级上下 体系,内置 短记 忆插件与 Prompt 动调优,确保智能体在复杂 程任务中 逻辑连贯、状态持久。 Agentic ADK框架 开发框架
19. 阿 态深度融合: 缝集成 集团内部AI应 开发平台、 HSF/MQ 及 MCP/A2A 等内部基建 全域模型兼容:原 等主流 商模型 持 百炼、Gemini、OpenAI、Claude 维抽象编排:内置串/并/循环节点,灵活 架构 撑单/多 Agent 限 具扩展:提供 LLM/Tool/Agent 前后回调, 义逻辑注 持 定 ,本地远程均可快 屏化 Debug 可视化调试评测:内置 速调优 向Google ADK接 缝衔接 设计
20. 可视化流程编排:提供基于节点的画布容器,通过标准化基 类封装 LLM 交互、 具调 、条件分 及并 执 逻辑, 持灵活引 流程,实现复杂业务逻辑的低代码图形化定 义。 响应式执 引擎:基于 RxJava3 构建的 性能执 内核,统 管理任务 命周期、上下 配置及数据流转; 持同步 (SYNC)、异步(ASYNC) 及 双向通信(BIDI) 三种模式,确保 并发下的稳定调度与动态响应。 原 化 AI 能 :标准化 模型交互与 具调 接 ,屏蔽底 层差异;通过统 的数据结构封装,实现模型推理与外部 具执 的即插即 与 缝集成。 流式管道系统:构建 向数据流的执 管道,负责节点间的 效数据传输与转换; 持流式输出与中间态拦截,为多智 能体协作提供 吞吐、低延迟的通信 backbone。 集成 持全双 异步通信
21. 基于ADK的DeepAgent通 智能体框架
22. 满 持多种编程语 不同岗位以及不同语 所 的开发者需要
23. 框架使 策略 数据分析平台 • 多阶段 机交互、 单能 收 、 告数据诊 断。 • ADK串联异构Agent,解决 规划总Agent研 发问题,做了上下 裁剪、提示词动态化、 具动态化 等低代码难以完成的 案例分析 作
24. • 具调 增强: 策略 AIDC供应链备货助 持FunctionCall直接拦截返 回,并实现动态赋值与固定参数(如 sessionId)的透传。 • 作流灵活编排:基于ADK+FlowEngine,可 配置节点流式处理,精细控制History上下 智能体的记忆跳过。 读写及 案例分析 的
25. 框架使 策略 • 主控层:采 ADK-DeepAgent集群版,通过 然语 Skill动态编排多场景复杂逻辑。 • 执 层:集成轻量SyncAgent,实现模型调 与传统API的同步 作流混编。 案例分析 淘宝闪购营销
26. 案例分析 Page Title Is Replaceable 框架使 策略 Serverless 代码应 • 资源优化部署:利 ADK内置的sun re、sls等中间件 及Serverless容器技术,依托Aone研发引擎,有效整合 AIDC内部SREAgent应 架,快速构建并部署DevOps 程效能的双重提升。 动化与 链,实现运维 脚 幅降低容器资源开销。 效开发:依托ADK提供的Java、Python、 Node等多种语 • 多语 , 具 场景
27. THANKS

首页 - Wiki
Copyright © 2011-2026 iteam. Current version is 2.155.0. UTC+08:00, 2026-03-24 22:14
浙ICP备14020137号-1 $访客地图$