阿里国际AI业务下的工程框架演进与实践
如果无法正常显示,请先停止浏览器的去广告插件。
1. 2026.03.21
阿 巴巴全球总部_访客中
中国杭州 HANGZHOU CHINA
2. 国际AI业务下的
从模型到
主智能代理的跨越
成式
阿
程框架演进与实践
3. 讲师介绍
李平
阿
巴巴
级技术专家
AI Business平台技术
LangEngine 作者
阿
程框架负责
4. 1
国际AI业务的交付效率和规模化
模型从
智能体
成范式
向推理范式
临更多复杂场景挑战
5. 2023年
阿
2024年
LangEngine
开发
阿
低代码应
2025年
AgentMagic
开发
今
Agentic ADK
代码应
开发
框架2.0版本正式发布
试点业务开始尝试接建设阿开发平台建设serverless架构下AgentEngine
Lazada Smart Assistant上线AI业务场景在国际泛落地持更复杂与个性化AI业务场景
框架1.0版本正式发布
AI框架0.1版本的测试版本发布
模型应
AI
国际AI应
6. 业务侧:规模化受阻
• 易 性差:API接 复杂,难以 撑业务快速
爆发需求。
编写代码进 功能验证,
• 评测昂贵:依赖
效率低且成本 。
算法侧:复 与部署难
• 复 性低: 程与模型代码强耦合, 法形成
统 的标准服务。
• 部署重:每次新业务需重复开发“ 程+模型”
代码,升级维护繁琐。
程侧:效能与稳定性隐患
• 开发成本 :缺乏统 框架,代码重复造轮。
• 维护困难:系统耦合度 ,故障排查复杂。
• 稳定性 险:缺失全链路监控,离在线资源未
隔离,且强耦合代码威胁 关安全。
国际AI业务的交付效率和规模化
7. Part 01
统
开发框架
8. LangEngine框架
LangEngine是23年5
从阿
作原理
巴巴集团内部发起的LLM 程框架
LangEngine-Core
LangRunnable动态引擎
LangEngine框架结合国际电商业务尝试场景落地,在24年7 底正式上线第 版 向 产环境的 可 AI应 开发框架(ADK 1.0),
迄今为 有2000+的内部社区成员,有1000+系统接 ,其中有50+核 贡献者。24年10 正式对外开源:AIDC-AI/ali-langengine。
9. AI应
解决
基座:阿
接
LangEngine 框架(全
案:构建统
命周期/权限流控)
:HTTP/HSF 双模 + 流式/异步多协议
路由:统
持
关屏蔽后端异构(HTTP/HSF/模型服务)
性能:多级元数据缓存 + 节点异步化 + GPU 弹性伸缩
运维:SLS+Blink+Hologres 实时全链路追踪
可关架构
AI 关,解耦程模型,集成多稳机制
10. 案例分析
Use Case: 基于LLM的意图分发与实体识别 —— Lazada Smart Assistant
框架使
策略
意图分发
• 规则+LLM+Agent多级分发,覆盖全场景
• 准确率超95%,新意图少量样本快速上线
实体识别
• 精准提取4类核 实体, 撑业务场景
• Tool Calling 效识别,准确率超91%
赋能运营提效,助
告主增
11. AI业务正经历从固定流程执 向 主推理决策的
范式转移。随着 模型推理能 (Reasoning)
的增强,业务形态划分为三个层级:
• Fixed Work ow:基于规则/SOP/RPA的确
定性流程。
定义主 流程,
• AI-Enabled Work ow:
关键节点嵌 AI能 (如翻译、修图)解决传
统编码难题。
• Agentic Work ow: 由模型主导推理、规划与
决策(如智能退款判定),实现“感知-决策-
执 ”闭环
随着推理 模型的普及,平台侧需重点解决以下
盾:
• 存量业务的兼容与演进
• 平台对创新范式的 撑效率
LLM从
向推理范式
12. 基于
作流的AI编排架构 - AgenicMagic框架
从固定SOP到
双模共存:Work ow与AI Agent能
泛化编排:灵活并通
化
共存
持各种AI应
范式
可视构建:基于可视化的FlowUI
思维链增强:包括CoT、ToT等思维链节点
流转:数据上下
流式、同步/异步的
全域适配:流式/
的流转和转换
上下
持
主决策,兼容存量与敏捷创新的全栈编排引擎
13. 单智能体框架架构
聚焦
FunctionCall:轻量直连,适 于简单任务
闭环
Planning & Execute:LLM 主分解任务
+ 循环执 ,适配中等复杂度
Sequence Planning & Execute Flow:预
定义 作流 + LLM 填充参数,保障关键路
径可控
Custom Agent:容器化封装多智能体(如
AutoGPT / Conversational Agent),
持 阶协同与领域定制
主推理与闭环执
的核
引擎设计
14. 多智能体框架架构
构建
Suprvisor:每个 agent与单个主
agent通信。主agent决定接下来应
调 哪个 agent
Supervisor (tool-calling):
Supervisor的特例。单个agent可以
表示为 具
Network:每个agent都可以与其他
agent通信。任何agent都可以决定
接下来要调 哪个其他agent
Hierarchical:定义 个多分层
Supervisor的multi-agent, 领域
设计模式
分
与群体协同的分布式任务解决
络
15. GUI智能体框架架构
赋予AI像
AI
:APaaS Gateway 接
AI 应
运
时
智能体引擎:Flow + AgentEngine 编排任务,
异步持久化状态
资源中枢:统 交付接
对接 RPA 与云电脑
+ WebSocket 推送,
Ops层:管理 影云/本地设备,预装阿
链(钉钉、RPA、Chrome插件等)
状态闭环:OCR+状态机监控机器
态,驱动 UI 任务实例更新
/应
具
/锁状
样操作软件界
的原
执
能
16. 案例分析
Use Case: 以图
键发品
17. Agent
临更多复杂场景挑战
问题挑战:如何提升AI业务的研发效率
个性定制:涵盖前后置插件、流式 预、结果拦
截及字段动态注 等深度个性化需求,强调架构
对 标逻辑的极致兼容能
深链可观测:针对 链路、深嵌套导致的 盒问
题,强调全链路追踪、断点定位及超时治理的透
明化能
动态编排:应对频繁变更与复杂业务逻辑,强调
流程的弹性调整能 ,以 撑 频迭代 不重构
底层
效能闭环:聚焦解决内部复杂业务流转中的低效
堵点,实现从任务发起到执 完成的 动化闭
环,提升整体 效
18. 1. 可视流式开发
秉承 Google ADK 理念,内置可视化调试 具与全链路流式
交互,让 Agent 开发过程透明、 效,彻底解决 盒难题。
2. 多模原 执
缝对接阿 Ovis 多模态模型,深度融合视觉与 本;原
集成 Computer/Browser Use 等最佳实践,赋予智能体
“看、点、操”的实战能 。
3. 全域协议互通
基于 SmartEngine 性能引擎,天然 持 A2A(智能体互
联)与 MCP(上下 协议)双标准;打通 AppBuilder 原
化组件,实现同步/异步/双 全模式灵活编排。
4. 效记忆 程
构建 Session/Memory/Artifact 级上下 体系,内置 短记
忆插件与 Prompt 动调优,确保智能体在复杂 程任务中
逻辑连贯、状态持久。
Agentic ADK框架
开发框架
19. 阿
态深度融合: 缝集成 集团内部AI应 开发平台、
HSF/MQ 及 MCP/A2A 等内部基建
全域模型兼容:原
等主流 商模型
持 百炼、Gemini、OpenAI、Claude
维抽象编排:内置串/并/循环节点,灵活
架构
撑单/多 Agent
限 具扩展:提供 LLM/Tool/Agent 前后回调,
义逻辑注
持
定
,本地远程均可快
屏化 Debug
可视化调试评测:内置
速调优
向Google ADK接
缝衔接
设计
20. 可视化流程编排:提供基于节点的画布容器,通过标准化基
类封装 LLM 交互、 具调 、条件分 及并 执 逻辑,
持灵活引
流程,实现复杂业务逻辑的低代码图形化定
义。
响应式执 引擎:基于 RxJava3 构建的 性能执 内核,统
管理任务 命周期、上下 配置及数据流转; 持同步
(SYNC)、异步(ASYNC) 及 双向通信(BIDI) 三种模式,确保
并发下的稳定调度与动态响应。
原 化 AI 能 :标准化 模型交互与 具调 接 ,屏蔽底
层差异;通过统 的数据结构封装,实现模型推理与外部
具执 的即插即 与 缝集成。
流式管道系统:构建 向数据流的执 管道,负责节点间的
效数据传输与转换; 持流式输出与中间态拦截,为多智
能体协作提供 吞吐、低延迟的通信 backbone。
集成
持全双
异步通信
21. 基于ADK的DeepAgent通
智能体框架
22. 满
持多种编程语
不同岗位以及不同语
所
的开发者需要
23. 框架使
策略
数据分析平台
• 多阶段 机交互、 单能 收 、 告数据诊
断。
•
ADK串联异构Agent,解决 规划总Agent研
发问题,做了上下
裁剪、提示词动态化、
具动态化 等低代码难以完成的
案例分析
作
24. •
具调
增强:
策略
AIDC供应链备货助
持FunctionCall直接拦截返
回,并实现动态赋值与固定参数(如
sessionId)的透传。
•
作流灵活编排:基于ADK+FlowEngine,可
配置节点流式处理,精细控制History上下
智能体的记忆跳过。
读写及
案例分析
的
25. 框架使
策略
• 主控层:采 ADK-DeepAgent集群版,通过
然语
Skill动态编排多场景复杂逻辑。
• 执 层:集成轻量SyncAgent,实现模型调
与传统API的同步 作流混编。
案例分析
淘宝闪购营销
26. 案例分析
Page Title Is Replaceable
框架使
策略
Serverless 代码应
• 资源优化部署:利 ADK内置的sun re、sls等中间件
及Serverless容器技术,依托Aone研发引擎,有效整合
AIDC内部SREAgent应
架,快速构建并部署DevOps
程效能的双重提升。
动化与
链,实现运维
脚
幅降低容器资源开销。
效开发:依托ADK提供的Java、Python、
Node等多种语
• 多语
,
具
场景
27. THANKS