基于云原生技术打造智能边缘计算
如果无法正常显示,请先停止浏览器的去广告插件。
1. 基于云原生技术打造智能边缘计算
深信服云计算
赵振阳
2.
3. 01
云原生助力边缘计算蓬勃发展
云原生与边缘计算的发展
DIRECTORY
目 录
02
深信服边缘计算的设计与实现
深信服边缘计算的架构及核心技术
03
深信服边缘计算应用举例
客户案例分享
4. 物联网、云原生、边缘计算
比尔盖茨首次提出
物联网概念
1995年《未来之
路》
引用物联网报告,并给出完
整定义
物联网被正式列为国家
2005年 ITU互联网报告
五大新型战略产业之一
2009年9月温家宝提出
“感知中国”
1990年物联网起源
冰可乐事件
1999年MIT
咖啡壶事件
提出物联网早期概念
2009年1月IBM提出“智
慧地球”
提出智慧地球概念,智
慧地球=互联网+物联网
云计算进入2.0阶段,进
欧洲ETSI发布“移
入云原生时代
动边缘计算白皮书” 2018年 K8S成为容器编
2015年ETSI
排事实标准
2013年 边缘计算
美国太平洋⻄北国家
实验室提出“边缘计
算”的概念
2017年“万物智能 新纪元
AIOT未来峰会”
中国首次提出AIOT概念
物联网 单机智能 互联智能 主动智能
云计算 云计算1.0 云原生 边缘原生
边缘计算 技术储备期 快速发展期 稳健发展期
OpenYurt在2020年5月开
源,9月进入CNCF沙箱
2020年9月OpenYurt入选
CNCF sandbox
2019年3月华为将KubeEdge
捐献给CNCF
KubeEdge完全兼容K8S的
API,实现云边协同
5. 云原生重塑边缘计算
边
端
云
SaaS
Edge SaaS
数据采集
设备控制
预测性维护 智慧园区
自动驾驶 智慧港口
Edge PaaS
1.服务协同
AI模型训练
自动驾驶中心控制
2.业务管理协同
智慧校
园中心
PaaS
应用实例、AI(容器化) 3.应用管理协同 业务编排
应用治理(生命周期管理) 4.智能协同 应用生命周期管理
5.数据协同 大数据平台、中心
数据治理
日志、监控、编排
AI训练中心
IaaS
Edge IaaS
边缘基础设施资源及调度管理
6.资源协同
云资源管理
边缘节点生命周期管理
边缘基础设施管理
时延:1-5ms,小于10ms
边缘node
下沉
中心cluster
6. 深信服边缘计算
算力向低延时、贴近数据源的地方下沉
现场边缘
终端
近场边缘
智慧路口
边缘计算一体机
(SIEB)
智慧矿山
智慧电厂
智慧水务
智慧灯杆
中间件服务目录
(AI算法、数据采集分析等)
WIFI/5G/LORA/NB-
IOT/zigbee/RS485/
RS232/
SD-WAN
边缘节点
边缘计算管理平台
(SIEP)
AI 平台 边缘运维 边缘安全
节点纳管 应用编排 神经网络
编译器 监控日志 接入安全
节点管理 生命周期
管理 GPU加速 设备管理 数据安全
节点升级 镜像管理 组件仓库 权限管理 容器安全
节点模板 应用配置 AI-DevOps 资产报表 态势感知
边缘应用
(Eth/4G/5G/WIFI)
(Eth/4G/5G/WIFI)
边
一 缘
体 节
机 点
边缘
容器
边缘管理
面板
边缘AI推理计算平台
安全证书
监控日志
TEE可信计算环境
安全管理
视频硬编
硬解
…
SD-WAN
(Eth/4G/5G/WIFI)
KubeManager管理台
驱动适配
操作系统适配(Ubuntu、Debian)
硬件适配(arm/x86、NVIDIA/BM/寒武纪)
各类I/O接口
边缘云/SDDC
O T
中心云/托管云
I T
运算结果向延时不敏感、高算力的云汇聚、分析
7. 深信服边缘计算架构
pod
VIP
keepalived
pod
pod
keepalived
apiserver
PostgreSql
Harbor
Cluster
SIEP
apiserver
etcd
etcd
Cluster
Master
kubelet
edge node
SF-AI-
RT
IOT
yurt
protocol
kubelet
edge node
SF-AI-
RT
IOT
apiserver
yurt
protocol
etcd
yurt-mgr
云原生
多集群
多租户
8. 将一个node部署在边缘端,会发生哪些问题?
● 一个边缘节点宕机了,K8S该做什么?
● 边缘节点与中心集群的网络断了,中心该做什么,边缘该做什么?
9. 云边协同与OpenYurt
OpenYurt
● 云原生
● 边缘节点自治
深度参与OpenYurt社区
基于OpenYurt开发云边协同
10. 不同的边缘节点,环境和网络相同吗?
11. 实际的网络拓扑
理想是这样的
中心云/托管云
边缘云
边缘一体机
边缘一体机
现实是这样的
12. 深信服云边网络方案
Worker
Master
etcd
flanneld
operator
apiserver
cloud-agent
Worker
flanneld POD flanneld POD
cloud-agent ... ... cloud-agent ... ...
... ...
GW-Worker
VxLan
flanneld
connector
IPSEC
Edge
network-agent
AI-RT
flanneld
Edge
POD
IOT
... ...
network-agent
AI-RT
flanneld
Edge
POD
IOT
... ...
network-agent
AI-RT
flanneld
POD
IOT
... ...
13. POD to POD:云 to 边
Worker节点
GW-Worker节点
访问edge pod
的流量指向主
机默认网关
POD
(主机网络)
POD
POD
POD
POD
cni0
cni0
flannel.1
(Vxlan口)
flannel.1
(Vxlan口)
ipsec 模块
eth0
边端
访问edge pod的
流量经flannel.1引
流至gw节点
vxlan隧道网络
访问edge pod
的流量进入
ipsec封包
云端
POD
(主机网络)
IP
Se
c
隧
道
edge节点(tunnel)
eth0
集群内网
互联网
核心思路:将pod流量经vxlan隧道路由至gw节点,解vxlan包,
流量再经ipsec隧道到达边端
eth0
flannel.1
(Vxlan口)
ipsec模块
cni0
POD
(主机网络)
POD
POD
节点 路由 Nat xfrm
worker节点 dst:{edge_pod_cidr} via
{gw_flannel.1_ip} dev flannel.1 无 无
gw节点 dst:{edge_pod_cidr} via
{default_gw} dev eth0 无 src: {cloud_pod_cidrs}
dst:{edge_pod_cidr}
edge节点 无 无 无
注:红色为work_pod to edge_pod的配置
绿色为work/gw_pod to edge_pod的配置
14. POD to POD:边 to 云
Worker节点
GW-Worker节点
POD
(主机网络)
POD
POD
POD
POD
POD
(主机网络)
vxlan隧道网络
cni0
cni0
flannel.1
(Vxlan口)
flannel.1
(Vxlan口)
ipsec 模块
eth0
云端
边端
IP
Se
c
隧
道
edge节点(tunnel)
eth0
集群内网
互联网
访问cloud pod
的流量进入
ipsec封包
eth0
flannel.1
(Vxlan口)
ipsec模块
访问cloud pod
的流量指向主机
默认网关
cni0
POD
(主机网络)
POD
POD
核心思路:将pod流量经ipsec隧道到gw节点,解ipsec包,再经
flannel的vxlan隧道到达work节点
Nat
xfrm
节点
路由
worker节点 无 无 无
gw节点 复用flannel路由 无 无
edge节点 dst:{cloud_pod_cidrs} via
{default_gw} dev eth0 无 src: {edge_pod_cidr} dst:
{cloud_pod_cidrs}
15. 如何快速的开发智能应用?
16. SF-AI-RT
C++ SDK
JAVA SDK
单模型调度
Python SDK
Http
多模型并行调
GRPC
...
多模型串行调度
业务应用
解码
预处
理
opencv
DeepStream
CPU预处理
Gstreamer
FFmpeg
CPU解
码
英伟达NX/AGX
TensorRT SFRT
TVM RKNN
BmRT OnnxRT
OpenVino Tengine
CPU推理 GPU推理
NPU推理 TPU推理
GPU预处理
VPU解
码
比特大陆
后处
理
推理
瑞芯微
寒武纪
sink
mqtt-sink
CPU后处理
http-sink
CMD-Sink
GPU后处理
video-sink
英特尔
...
业务应用
17. 案例分享
深信服已交付典型案例分享
18. 企业
某监管园区项目
哨
兵
一
体
机
哨兵AI
业务
应用 AI算法
数据库 适配
层
哨兵安全 哨兵IoT 哨兵组网
接入安全 IoT分析 云边通信安全
IoT接入 VPN 组网
系统防护
数据审计
两重点一重大
监管部⻔
政务外网
下一代防火墙
(安监、应急、环保、能源)
园区
闸机
下一代防火墙
服务器
数据交换区
甲类仓库
危化品运输⻋辆
服务器
企业NVR
物流出入口
哨兵一体机
交换机
防火墙
下一代防火墙
集中管控平台
感知接入区
核心交换机
大屏展示
液压传感器
应用防火墙
可燃气体传感器
DCS系统
数据库审计
网闸
服务器负载均衡
化工园区安全⻛险
智能化管控平台
红外传感器
✓ 原始数据不出企业,监管数据上传可视可控
✓ 边缘AI现场推理分析,有效降低带宽成本,提高了事件预警的及时性
✓ 灵活部署,云边协同,大幅减少运维成本
边缘计算管理平台
园区云
客户端
19. 某化工园区安全生产监管
边缘计算一体机部署在企业内网环境中就近采集数据,接入重点防范区域的摄像头实时视频流,通过AI算法进行实时视频的智能分析,并根据算
法预设规则对视频分析结果进行业务后处理,将异常事件上报到园区管委会,满足安全生产的监管需求。
园区管委会数据中心
安全作业监测 烟火检测预警
危险源统计 跑冒滴漏检测
安全生产监控管理平台
VPN/SD-WAN
摄像机
企
业
侧
液压传感器
边缘计算
一体机
PLC
可燃气体
传感器
……
交换机
20. 某煤矿安全生产项目
边缘机房
智慧矿井系统
U
5G基站
矿
道
边缘一体机
摄像机
人员标签
卡
水位传感
器
交换机
环境传感
器
设备传感
器
✓ APP运行在边缘端,通过AI、IOT实现智能自动控制,实现井下无人
✓ 本地化处理,保证实时性,减少传输时延和传输流量
✓ 云边一体化运维,实现边缘设备、边缘应用能力灵活更新,降低整理运维成本
21. 某新能源场站设备预测维护
将边缘数据采集装置部署在接口机后,采集全量设备的运行数据,包括温度、湿度、震动频率等,根据前端设备协议类型,从边缘计算管理平台
推送相应的协议插件实现设备统一接入;将采集到的数据传输到数据转发服务装置,实现数据预处理及标准化,将治理后的数据上报至集控中
心,结合大数据、AI技术实时对设备进行综合监控、预测分析和优化改进。
安全 II 区
安全 I 区
安全 III 区
集
控
侧
运维大屏
运维监控平台
AI平台
场
站
侧
物联网安全态势
安全生产监测
大数据平台
单向隔离装置
防火墙
数据采集装置
数据转发装置
22. 回顾
云原生技术,使得边缘计算发展进入快⻋道,边缘计算随着云计算蓬勃发展
云边协同与边缘自治,是当前边缘计算要解决的核心问题,是现代边缘计算的基础
边缘计算必须解决复杂的边缘组网问题,并且提供安全、可靠的接入、传输
以AI和IOT技术为代表,开发在数据源的智能应用服务于各行各业
23.
24. 谢谢聆听
让每个用户的数字化更简单、更安全 !