华院认知智能引擎平台落地实践
如果无法正常显示,请先停止浏览器的去广告插件。
1. 华院认知智能引擎平台
落地实践
Copyright © 版权所有 华院
2.
3. 关于华院丨 企业介绍
华院愿景
让世界更智慧
华院使命
赋能企业 数字化、智能化
华院计算技术(上海)股份有限公司(简称“华院计算”),成立于2002年,是中国认知智能技术的开拓者。公司以算法研究、算法创新和算法应用为
核心:基于数学应用与计算技术发展,聚焦认知智能技术、创新自研底层算法;基于认知智能引擎平台的场景应用,为智能制造、社会治理、数字文旅、
零售金融等行业提供AI+行业解决方案、实现全面赋能,从而推动行业智能化的转型和升级,让世界更智慧。
Confidential
Copyright © UniDT.com
3
4. 算法实验室| 引领算法研究前沿
产业应用实验室
计算法学
计算社会学
工业数字仿真
智能配料
虚拟数字人
认知智能研究中心
华院与 上海市静安区人民政府 签署了战略合作框架协议,
联合高校进行共同课题研究和博士后人才 培养 ,推进人工智能
相关基础研究和技术应用,服务国家人工智能科技战略,为上
海市及静安区大数据、人工智能产业发展提供有力支撑!
偏态学习
小样本理解与推断
概率性知识图谱
意识图灵机
斯梅尔数学和计算研究院
美国科学院院士斯梅尔教授受邀担任研究院名誉主席。
- 斯梅尔研究院有多位 菲尔兹奖 、 沃尔夫奖 、 图灵奖 的得主以及国内外科学
院院士;
- 斯梅尔研究院联合了UC伯克利、 密西根大学、斯坦福大学、卡内基梅隆大
计算基础理论
计算生物学
非线性期望
学、复旦大学、浙江大学、北京大学 、山东大学等知名学府;
Confidential
Copyright © UniDT.com
4
5. 商业模式 | 1+X 架构 以算法为核心,赋能产业应用场景落地
产业应用
表面监测 云展厅 教育
连铸质量预判 交互式智能终端 生物医药
智慧安全 数智人视频生成 金融&零售
智能配煤 数智人虚拟直播 基层社会治理
智能制造 AIGC 其他
X
通用平台
小样本学习
多模态生成
认知智能引擎
垂直行业大模型
知识与数据融合
算法实验室
斯梅尔数学和
计算研究院
认知智能
研究中心
Confidential
1
Copyright © UniDT.com
5
6. AI落地困境
算力 模型能力 责任
算力贵
算力杂 国产大模型能
力差距 输出内容可控
场景
锦上添花
价值感不强
数据
私有化
Confidential
Copyright © UniDT.com
6
7. 华院认知智能引擎平台 | 驱动不同行业多场景应用落地的核心引擎
行业
应用 缺陷检测 质量预判 数字人直播 AIGC视频生成 ……
行业
大脑 工业大脑 智能制造 AIGC数字人 基层治理决策平台 分子药物筛选平台 工具集
通用
能力
底层
算法
知识表示
知识推理
知识融合 多模态
大模型
规划决策
不变特征提取 特征对齐 概率知识图谱 内驱力机制 通用序列预测 鲁棒学习
通用特征建模 特征融合 概念网络 意识图灵机 多任务强化学习 小样本学习
Confidential
Copyright © UniDT.com
7
8. 华院认知智能引擎平台 | 价值定位
给谁用?
产品形态?
发展策略?
Confidential
Copyright © UniDT.com
8
9. 华院认知智能引擎平台 | 给谁用
大B客户构建智算平台
算法工程师贡献弹药
算法
产品
产品经理搜寻弹药
大B
直接支撑场景应用
。。。
小B
--
--
--
Confidential
Copyright © UniDT.com
9
10. 华院认知智能引擎平台 | 构建思路:单点切入,做深做透
文件解析
文件类型全覆盖
特定元素解析强化
向量化
复杂表格;流程图;音视频
纯中文场景、纯英文场景、中英夹杂场景
下的Embedding模型选择
文件调度、存储
基底模型选择
单个文件限制多大?多用户调度策略、文
件存储与带宽优化
如何选择基底模型,哪个好,为什么,凭
什么;平衡效果与首字响应;
角色设定
检索策略
不同模型如何设定角色,角色遗忘咋办
向量检索用啥index;
混合检索;
以RAG为例
Confidential
Copyright © UniDT.com
10
11. 华院认知智能引擎平台 | 产品形态
基础 算力管理 屏蔽底层硬件感知
能力 算法优势 集成华院认知智能能力
数据 数据管理 数据集管理、数据权限管理
链路
AI全链路
从开发、训练、部署到测试运维全
链路
LLM
大模型
做到各类大模型开箱即用,快速落
地
大脑
行业聚焦
Confidential
行业聚焦,深度赋能
Copyright © UniDT.com
11
12. 华院认知智能引擎平台 | 问题
异构算
力管理
基础设施
数据处
理
模型版
本与加
密
用户数据
用户任
务公平
调度
IO
基底模
型并行
测试
基底模型选择
引擎平台
Confidential
Copyright © UniDT.com
12
13. 华院计算认知智能引擎 | 主要技术点
主要技术点
异构算力管理
数据处理
模型大小版本对应
K8S
GPU显存切分
国产卡兼容
多格式支持
表格解析加强
版面理解
多框架支持
•
不同品牌、型号的显卡存在显著差
模型版本与安全
应急回滚策略
模型加密
用户任务管理
基底模型
文件
模型统一管理
文件切块策略
模型集成测试
CFS调度
提示词优化
自适应优先级
模型输出结果跟踪
推理
多编码自动切换 Tokens限流
多语言支持 输入文字
…… ……
运行报告评估
异,需要针对任务需求,合理分配
算力资源
Confidential
Copyright © UniDT.com
13
14. 华院认知智能引擎平台 | 发展策略:在实践中成长
工业大脑
加速技术资产积累
1
1
提升售前效率
2
对内
加速
模型快速复用
3
加速交付
对外
赋能
数字治理大脑
2
AIGC引擎
Confidential
Copyright © UniDT.com
14
15. 华院计算认知智能引擎 | 落地实践:支撑智能制造
配料管理 质量管控 能源管理
智慧安全
智能配煤 连铸质量预判与切割优化 加热炉智慧燃烧系统 飞钢智能安全监控
烧结配矿 热轧带钢表面缺陷监测 热轧生产线能源优化 厂区智能安全巡检
高炉配料 铜箔表面缺陷及针孔监测 …… ……
…… …… 降低配料成本 提高产品质量预测
闭环管理
成材率提高 降低轧线生产综合能耗 设备巡检及预测性维护
Confidential
Copyright © UniDT.com
15
16. 华院计算认知智能引擎 | 落地实践:支撑智能制造
痛点
• 难以精准预测焦炭质量
• 生产成本高
• 缺乏焦煤质量跟踪手段,
不利于生产问题分析和溯
源
• 过于依赖配煤师经验,
难以共享与传承
• 缺乏自身特点的煤质评价
解决方案
成效
基于认知智能引擎的配煤模型
基于大数据算法模型和认知智能的鲁棒学习算法、小样本学习、数据+知识融合进行
配煤优化和焦炭质量精准预测,以成本和效益优先为指导进行资源配置,显著降低成
本;
通过智能配煤来保证生产焦炭的质量,合理利用煤炭资源,节约高价值的炼焦煤资源,
扩大炼焦煤资源,实现焦炭生产的保质增效;
焦炭质量预测
配煤配比优化
方法和数据库,不利于科
学用煤、购煤
智能配煤
智能煤场
自学习
成本预测
综合炉型优化
数据可视化
提高配煤效率
稳定焦炭质量
优化配煤成本
煤焦对应
Confidential
Copyright © UniDT.com
16
17. 华院计算认知智能引擎 | 落地实践:支撑智能制造
痛点
解决方案
针对成品带钢的表面缺陷,情况 基于认知智能引擎的热轧表面缺陷检测应用
如下:
产品表面质量图像采集和分析
人工检查
成效
通过摄像头获取产品的表面图像,采用机器视觉自主开发质检平台、检测表面缺陷,
实现全自动高速的质量缺陷检测系统;
基于认知智能的小样本学习、数据+知识融合以及非公理化推理代替人工对棒线材、型
人工判定 钢等长材轧制过程中高温红钢的轧制状态进行实时监测,实现实时监控、智能识别、
低效 报警通知、设备联锁、历史追溯等功能以保障工厂生产安全管理。
实现全自动高精度的在
线质检,并生成质检记
录;
质检信息完整存档,可
供追溯;
减少质检人员配置,降
低人力成本;
精度根据数据集的完整
性可达到98%以上。
Confidential
Copyright © UniDT.com
17
18. 华院计算认知智能引擎 | 落地实践:支撑AIGC
通用场景
电商/知识付费
银行/证券/保险
虚拟员工 数字理财专员 虚拟主播
展厅讲解员 数字投顾专员 虚拟老师
数字客服 数字保险代理人 虚拟客服
虚拟培训对练 数字大堂经理 ……
交互式智能终端
数智人定制
分身与驱动引擎
短视频生成平台
虚拟直播平台
数智人AIGC
对话交互引擎
创建分身 唇形驱动 ASR、TTS NLP
表情驱动 肢体驱动 对话框架 领域LLM
数智人智能互动
多模态理解与表达引擎
大语言模型
多模态融合表达,可控生成语言情绪/表情/肢体
用户认知
个性化内容
……
知识增强语言模型KeLM
检索式增强RAG
Confidential
RLHF
指令微调SFT
Copyright © UniDT.com
18
19. 华院计算认知智能引擎 | 落地实践:支撑AIGC
老年认知评估
虚拟主播
文化推广使
虚拟主持人
数字理财顾问
博主分身
虚拟理财顾问
Confidential
Copyright © UniDT.com
19
20. 华院计算认知智能引擎 | 落地实践:支撑数字政务
自研法律大模型
中文司法知识
数据40G
指令微调数据
100k条指令
《最高人民法院、最高人民检察院、公安部
知识库
法条库
关于办理醉酒驾驶机动车刑事案件适用法律
若干问题的意见》
类案库
《中华人民共和国宪法》
《中华人民共和国民法
典》
3189部法律
基座模型
……
如果喝了两斤白酒后开车,
会有什么后果?
50504部法规 20种司法子任务 司法解释 多轮指令-回答对 知识 逻辑 事实
注入 学习 增强
预训练
指令微调
已知信息:危险驾驶罪是
指在醉酒状态...
根据上述已知信息,回答
用户的问题。
问题是:如果喝了两斤白
酒后开车,会有什么后果?
法律大模型
喝了两斤白酒后开车可能会
面临以下法律后果:
1. 危险驾驶罪
2. 行车证和驾驶证吊销
3. 罚款
4. ...
综上所述,请勿酒后驾车。
21. 华院计算认知智能引擎 | 落地实践:支撑数字政务
通过对各类数据进行分析,从“人”“事”2个层面,开展监测预报、事前预警、事中评价、事后评估等智能化应用和服务
建立“感知—研判—预警—应对—督查”的全闭环流程,实现信访管理的“智能辅助”
认知算
法
模型
NLP算
法模型
通用特
征表示
模型
人格内
驱力分
析模型
视频算
法模型
行人检
测模型
概率性
知识图
谱
智能法
条搜索
模型
相似案
例推荐
模型
异常时间点
预警模型
识别模型
行人重识
别模型
热点问题自
动标签模型
预警/预测及
风控算法模
型
信访事件数
量预测模型
Confidential
信访事件预
警模型
信访人风险
预警模型
Copyright © UniDT.com
21
22. 华院计算认知智能引擎
| 落地实践:支撑数字政务
功能页面
要素提取栏目
调解协议预览
Confidential
Copyright © UniDT.com
22
23. 华院计算认知智能引擎 | 落地实践:支撑药物筛选
• 基于大量公开和私有的蛋白质结构和复杂结构数据,利用认知智能引擎专有的小样本学习技术、通用特征表示方法、基于博弈论的极大极小鲁棒算法。
• 结合分子对接和分子动力学模拟,构建了一个基于人工智能的多肽药物、小分子化合物和其他药物筛选平台。该平台提供了一系列算法和应用场景,包括蛋白
质三维结构预测、蛋白质结合位点建模、分子对接计算、分子动力学模拟等。
应用层
多肽类药物
抗体药物
小分子药物
生物学医学实验验证
作用于靶点的候选药物
蛋白质三维结构预测
AI 引擎层
数据层
蛋白结合区域建模
分子对接计算
分子动力学模拟
小样本学习算法 迁移学习算法 深度学习算法
数据特征提取 序列向量化 模型集成
数据采集整合
数据清洗
基因序列数据库
蛋白质结构数据库
蛋白-蛋白相互作用数据库
数据质量 检查修
复
其它实验数据集
目标靶点 (蛋白质受体)
基础科学研究
Confidential
Copyright © UniDT.com
23
24. 谢 谢!
华院计算技术(上海)股份有限公司
上
海
·
北
京
·
杭
州
·
成
昌
地址 · 上海市静安区万荣路1268号云立方大厦A座9楼
电话 · 021-63617288
网址 · www.UniDT.com
传真 · 021-63617299
都
·
西
安
·
南