1.技术解析篇-DeepSeek入门宝典
如果无法正常显示,请先停止浏览器的去广告插件。
相关话题:
#DeepSeek
1.
2. DeepSeek是什么?
• DeepSeek 是什么?
• DeepSeek R1的三大特点
• 使用DeepSeek的五种方式对比
3. •
•
•
DeepSeek 是什么?
DeepSeek是幻方量化于2023年创立的大模型子公司,创始人为梁文锋
2024年1月5日,其发布第一个同名AI大模型 DeepSeek LLM
2025年1月20日,DeepSeek R1正式发布,为 对标 OpenAI o1 正式版的高性能推理模型;
R1上线后火速出圈,其应用创造了全球 APP 历史上增长最快 的记录
图片来源:DeepSeek官网
图片来源:AI产品榜
4. DeepSeek R1的三大特点
高性能
推理表现媲美OpenAI o1正式版
开源
R1开源,并公开训练技术,允许开发者
访问和学习
低成本
R1开发成本仅为OpenAI o1的2%左右
图注:DeepSeek与OpenAI各版本的准确率对比(图片来源:DeepSeek官网)
5. 普通用户
使用DeepSeek的五种方式对比
作为生产力工具及技术尝鲜
开发者、企业用户
保障访问稳定性和可扩展性
官网 https://chat.deepseek.com/
APP https://chat.deepseek.com/
API https://deepseekapi.io/
本地部署
云平台
可借助Ollama、vLLM 和 MNN等工具
硅基流动、腾讯云、阿里云等
6. DeepSeek R1核心
技术揭秘
• R1的基座模型——V3
• R1的三种变体
• R1训练的技术路径
• R1的核心技术解析
• R1的关键技术贡献
7. V3模型的特征
R1的基座模型:V3
• V3是去年12月发布的自研 MoE 模型
• 参数与GPT-4大致在同一数量级: V3 有671B
参数,每个Token的计算激活约37B
• 在 14.8T token 上进行了预训练
R1在DeepSeek V3基础上进行了开发
• V3:对标GPT-4o ,通过指令微调和偏好微调
提升性能
• R1:专注于推理能力
图注:DeepSeek V3与发布时其他主流大模型的准确率对比(图片来源:DeepSeek官网)
8. R1的三种变体
模型蒸馏
多阶段渐进训练
直接强化学习训练
DeepSeek V3
基座模型
R1-Zero
变体 1
R1
变体2
DeepSeek-R1-
Distill
变体3
9. R1训练的技术路径
原图作者:Sebastian Raschka
10. R1的核心技术解析:强化学习
R1采用了多种奖励的强化学习,相当于模型的“综合评分系统”,模型在完成任务时根据多个标准获
得不同的奖励信号。
图片来源:《基于场景动力学和强化学习的自动驾驶边缘测试场景生成方法》
11. R1的核心技术解析:冷启动数据
R1 策略性地将少量高质量数据作为冷启动。这相当于训练开始前的“入门教程”,帮助模型更快地学
会如何进行清晰、有逻辑的推理。
R1-Zero生成
的长思维链
(CoT)数据
挑选示例
R1的冷启动数据
12. R1的核心技术解析:监督微调
R1训练包括两个监督微调 (SFT) 阶段。模型通过学习标注数据来调整模型,以在特定任务上表现得
更精准。
图片来源:《PORT: Preference Optimization on Reasoning Traces》
13. R1的核心技术解析:蒸馏
R1-Distill采用蒸馏技术。大模型(老师)把自己的知识和推理能力教给小模型(学生),通过高质
量的数据和训练方法,让小模型学会大模型的推理技巧。
图片来源:https://devopedia.org/knowledge-distillation
14. 关键贡献1: “纯RL”技术路线的可行性
首个公开研究,验证了LLMs的推理能力可以仅通过强化学习激励,而无需监督微调。
图注:随着RL训练逐步推进,R1-Zero的性能稳定且持续提升(图片来源: DeepSeek官方论文)
15. 关键贡献2 :R1的“啊哈时刻”
DeepSeek R1在推理时使用诸如“啊哈时刻”的高度拟人化语言,在解题找到突破口时产生了顿悟,被视
为走向AGI的重要一步。
图注:在处理复杂的数学问题时,模型突然停下来说“等等、等等、
这是个值得标记的啊哈时刻”(图片来源: DeepSeek官方论文)
图注: DeepSeek R1 的推理过程
16. 关键贡献3: 蒸馏小模型超越 OpenAI o1-mini
蒸馏小模型的高性能,证明了该策略的经济和有效,但想要突破当前智能的边界,或仍需要更大规模的
基础模型与强化学习。
图注:通过 DeepSeek-R1 的输出,蒸馏了 6 个小模型开源给社区(图片来源: DeepSeek官方论文)
17. DeepSeek技术贡献
及未来进化
• R1与OpenAI o1的三大区别
• R1的四大进化方向
• 附录:DeepSeek产品家族全梳理
18. DeepSeek R1 与 OpenAI o1 的三大区别
R1:基于已有模型DeepSeek V3
R1:证明可以仅通过强化学习激励,
无需监督微调
R1:开源,免费使用
架构不同 o1:不同于GPT-4o的新模型
训练方式不同 o1:监督微调和强化学习结合
生态不同
o1:闭源,ChatGPT Plus会员才
可访问o1及o1 mini
19. R1的四大进化方向
通用能力
R1在一些复杂任务上的表现不如V3,
未来可以通过长链推理来提升
提示工程
R1对提示很敏感,少量示例提示会
降低性能
语言混合
优化R1处理中英文以外语言的能力,
避免现在的语言混合问题
软件工程任务
从软件工程数据、强化学习的异步
评估入手,缩短评估时长,保障强
化学习过程的效率
20. 附:DeepSeek产品家族全梳理
图表来源:国海证券
21. 更多DeepSeek及AI学习资源
DeepSeek官网
访问官网,可深入了解最新研究成果,获取源代码及
官方提示词样例库等资源。
https://www.deepseek.com
51CTO官网AI专区
51CTO官网AI.x专区,获取DeepSeek及AI最新资讯、
实战文章、实用资源及AI实战派大咖直播分享。
https://ai.51cto.com
51CTO在线课程DeepSeek专区
超过200门、超过1000小时AI(含DeepSeek)主题
视频课程可供个人和企业学习。
https://b.51cto.com
图注:51CTO企业学堂推出的企业DeepSeek体系化学习方案
22.