智能化基础架构变⾰驱动⼈机协同决策
如果无法正常显示,请先停止浏览器的去广告插件。
1. 智能化基础架构变革驱动人机协同决策
郑曌
第四范式技术副总裁、基础技术负责人
2. About Me
郑曌
LF AI & Data Board member
开源机器学习数据库OpenMLDB 、AI操作系统内核OpenAIOS 项目发起人
开源推荐算法工具 SVDFeature 作者
致力于分布式机器学习系统架构、个性化推荐架构、机器学习数据系统等方向
KDD Cup & ACM 世界冠军
2
3. AI决策走进各个行业,渗透进入每个人的生活
供应链
工业机器人
生产制造 导航和驾驶
推荐系统 市场营销
3
4. 当谈到AI决策的时候,架构师的常⻅疑惑
AI是不是已经凉凉了,我还需要在架构中引入AI能力吗?
工程、业务、算法、数据这些团队每天都在 battle,到底该相信谁 ?
我的架构设计是否阻碍了业务决策的敏捷创新 ?
AI工程化落地谈了这么多年,什么时候到来 ?
AI工程化落地之后,AI系统与软件工程架构如何互动?
AI进入业务系统后,架构师做技术选型的方法和思路会发生什么变化?
4
5. AI决策的背后,是人类科学发展的四个范式
6. AI发现海量规律,优化业务决策
产业全面进入科学时代
科学规律数量井喷
机器寻找海量规律
X
机器在海量领域寻找规律
7. 决策需要四个步骤
7
8. 以人为中心的业务决策体系存在瓶颈
8
9. 人只拥有“有限理性”,无法进行全面精准的决策
10. AI用细颗粒度的模型表达能力让决策层级下沉
11. AI用实时技术让决策依据和触达更及时
12. AI用闭环技术让决策进化永续不断
13. AI决策加持的未来:以人为中心的决策体系走向人机协同的分层决策体系
-
-
-
-
面面俱到的“绝对理性”
定量决策、可复制性强、毫秒级响应
快速跟上业务变化
系统驱动、提升协同效率
14. AI决策在业务系统中的实践和应用
15. 通过AI驱动企业经营决策变革背后
是AI工程化落地的诸多挑战
以及解决AI工程化落地问题的探索和实践
15 15
16. AI决策系统背后的挑战
17. AI决策系统背后的挑战
18. AI决策系统背后的挑战
19. AI决策系统背后的挑战
20. AI决策系统背后的挑战
21. AI决策系统背后的挑战
22. AI决策系统背后的挑战
23. AI决策系统背后的挑战
24. AI决策系统背后的挑战
25. AI决策系统背后的挑战
26. 如何设计打造一个高复杂环境下的敏捷决策系统
27. 如何设计打造一个高复杂环境下的敏捷决策系统
28. 如何设计打造一个高复杂环境下的敏捷决策系统
29. 如何设计打造一个高复杂环境下的敏捷决策系统
30. 如何设计打造一个高复杂环境下的敏捷决策系统
31. 应对价值快速落地:数据驱动的业务实验平台+AutoML
32. 数据驱动的业务实验平台:快速、稳健的业务创新迭代
33. AutoML:让AI设计AI,实现全场景、全流程的自动化
34. 应对可信赖实时数据供给:OpenMLDB 开源机器学习数据库
35. 数据系统工具的演进为AI实时数据供给提供了可能
36. 数据工具的挑战:AI应用对数据正确性要求高
37. 数据工具的挑战:数据不实时带来了效果的丢失
38. 数据工具的挑战:数据不一致带来隐性沟通和决策成本
39. 数据工具的挑战:数据不正确带来了信任的破坏
40. OpenMLDB 是一个开源机器学习数据库,提供线上线下一致的AI数据开发体验
41. OpenMLDB与开源生态上下游打通,实现端到端的AI应用全流程构建
42. OpenMLDB的发展历程
43. 应对算力成本:软件定义算力,从软件应用负载全流程出发充分利用算力
44. 应对算力成本:软件定义算力,从软件应用负载全流程出发充分利用算力
45. 应对算力成本:软件定义算力,从软件应用负载全流程出发充分利用算力
46. OpenAIOS 云原生 vGPU 解决方案:理解深度学习应用,让单块GPU运行更多应用
Github: https://github.com/4paradigm/k8s-vgpu-scheduler
https://github.com/4paradigm/k8s-device-plugin
47. AI决策系统中工具链的设计观点和理念
48. 人机协同决策的智能化基础架构的关键要点
•
•
•
机器相比人更加擅⻓从海量数据里找规
律,能够更好的辅助决策
在未来人机协同的决策系统里,工程师可
以更多的参与到业务目标的制定,机器更
多的参与到反复寻求最优解的计算
作为架构师,我们需要为开发者保障高速
迭代的效率、可信赖的数据以及可负担的
算力,让数字世界和真实世界完成可靠稳
定的交互;
49.