从制造业看大模型在企业如何落地

如果无法正常显示，请先停止浏览器的去广告插件。

1. 演讲人：吴云

2. 01 大模型如何应用到企业 02 大模型在制造业典型应用以及如何落地 03 大模型在企业应用会遇到的主要问题和对策

4. 01

5. 大模型应用智能体应用使用目的新业务新商品/服务步骤 3 实现自身服务的高度化及创造新业务服务等级提高 3.公司业务用智能体 ② 与公司IT系统数据联动（大语言模型・应用开发）现有业务自动化品质提高步骤 1 将通用模型应用于部分业务提高效率 1.公司内Deepseek ① 与公司数据联动大多数企业仅在使用豆包和Deepseek等生成式AI的网站功能。若不具备利用自有数据实现相关任务自动化的能力，企业对大模型的应用范围将受到很大限制。步骤 2 应用于自身固有业务及客户应对 2.公司知识问答使用领域 5

6. 生成问答生成文字内容问公司规定，问数行动工作流或多智能体监督大模型大模型员工知识库工具业务对象业务对象业务对象- 结构化数据文档 – 非结构化数据推动业务自动化和形成企业生产力。外部数据&工具员工员工

7. 02

8. 2025-01-28

9. 产品开发内容生成赋能业务处理大模型生产制造成产品需求生成设计方案生成交班报告生成销售管理订单确认信息订单变更信息生退货总结信息生成成生成采购管理供应商资格认供应商采购交定问题生成涉事项生成品质管理品质确认事项仓库管理仓库管理规定业务对象业务对象- 结构化数据产品说明书生生成生成高频应用设备管理设备修理总结

10. 方案介绍: • • 实现信息标准化，减少人为失误。 • 技术架构：工单执行情况设备运行状态员工操作记录质量检测结果异常处理记录 3 3.交班用数据不足问题描述：员工的工作没有使用系统进行管理，会导致生成的报告缺少相关信息。解决办法：完善企业IT系统建设，做到交班相关工作的数据化。交班报告通过程序从数据库中抓取数据。填入到到提示词模版中。 1 1.LLM生成内容可控性不足问题描述：报告生成易出现跑题、重复或主观性语言。解决办法：采用结构化prompt设计与 few-shot提示。大模型做生成处理。可再生成。 2 交班报告确认和修改。 2 2.生成结果并不完全准确问题描述：生成的内容缺少信息，或者生成的不对。解决办法：提供再生成功能；另外对生成的结果可修改，完善后再使用。交班报告输出。

11. 产品开发问答问公司相关知识，问数大模型生产制造销售管理知识库工具采购管理产品知识助手设备操作助手客服人员客户用聊合同填写投标书填助手天机器人助手写助手采购规定供应商入供应链管助手驻助手理助手业务对象品质管理业务对象- 结构化数据文档 – 非结构化数据仓库管理设备管理品质检查助手仓库管理助手设备修理助手高频应用

12. 方案介绍技术架构 • • 提升维修效率，减少停机时间，降低对生产的影响；降低员工经验依赖，实现维修知识沉淀与传承。故障诊断标准、工艺流程文件。设备维修手册、操作说明书读取 RAG 1 1.数据读取困难问题描述：维修手册多为PDF格式，里边包含大量图片和表格，信息抓取困难。解决办法：使用文档解析工具（如： MinerU ），生成Markdown文件，方便RAG应用。切片零件库、设备台账信息。向量化企业内部设备维修记录（维修工单）。文档生命周期管理 2.参考信息不全回答不准确问题描述：在信息不全的情况下，模型可能给出不准建议解决办法：提供全面的参考数据，让模型回答的更准。 2 3 1 3.知识库维护困难问题描述：设备更新换代后知识可能过时解决办法：定义文档的生命周期，制定维护机制，定期更新维修资料。把RAG处理结果和用户问题填入到到提示词模版中。大模型做生成处理。可再生成。

13. 行动工作流或多智能体监督员工员工产品开发产品的升级产品新用途与改进的探索销售管理竞争对手分订单信息提析取采购管理供应商推荐品质管理品质改善建员工供应商风险评估交期追踪议业务对象- 结构化数据文档 – 非结构化数据外部数据&工具高频应用

14. 方案介绍： 1、订单格式多样，结构差异大问题描述：客户订单不能用单一方法读取。解决办法：使用多模态大模型+文档解析工具，统一转为纯文本。 • 面对客户订单来源多样、格式各异的实际情况，传统系统难以实现自动化处理。 • 能够实现自动化处理，提高订单处理效率，避免人为错误，提升客户满意度。技术架构: 订单用字典数据。产品信息，客户信息等历史相似订单信息样例。 2、提取信息不准确问题描述：多模态模型或者文档解析工具读取的数据存在错误。解决办法：通过上下文语义理解+ 主数据匹配纠错。 2 使用多模态模型读取。订单信息确认和修改。 1 选择不同读取方式。等等文档解析工具读取读取的数据。填入到到提示词模版中。使用程序直接读取。历史订单信息。微调 3 3.大语言模型不理解行业数据问题描述：大语言模型不理解该行业订单数据内容，导致结构化数据抽取精度低。解决办法：使用历史订单数据，微调大模型。大语言模型做结构化数据生成处理。可再生成。插入到订单系统中。

15. 03

16. • • 使用大模型可能面临数据泄露等安全风险。企业物料单价数据，投标数据，合同数据等商业机密，一旦泄露将造成巨大损失。 • • 私有化部署：主要工作时确定要使用的开源模型，匹配相应的硬件资源。调用云服务器API：明确云服务商的用户隐私协议，并且确认合规性。对策问题阿里云百炼隐私政策五、用户业务数据保护 5.1. 您通过我们提供的服务，加工、存储、上传、下载、分发以及通过其他方式处理的数据，均为您的用户业务数据，您对此拥有完全的控制权。 5.3. 您知悉并同意，我们或我们委托授权合作伙伴将仅按照如下方式处理您的用户业务数据： 5.3.1. 按照本协议及您可能不时做出的任何进一步有文件记录的指示且不为其自身目的处理相关数据； 5.3.2. 为落实现行法律法规要求（如内容安全过滤），或按照主管部门指示处理用户业务数据。

17. 来自信通院 • • 企业数据可能存在不完整、不准确、格式不一致等问题。低质量的数据会影响大模型的训练效果和应用准确性。问题 • • 建立完善的数据治理体系，加强数据采集环节的管理，对数据进行清洗、预处理和标准化。完善企业IT系统和管理流程建设，实现所有业务数据化。对策问题问题说明对策对策说明目标无知识不知道我有，我也愿意共享有知识专家意识到有知识并实施共享活知识在需要的时候，知识就出现了---知识找人面向业务：实现业务知识化，知识共享化。知识和业务的融合。强知识这些知识都和工作强相关死知识弱知识知识似乎有，但关键时刻找不到，用不上。那些知识似乎都和工作没有直接关系远知识知识似乎与工作有关，但使用起来不直接，不方便近知识可以直接使用，无需二次加工浅知识只关注显性知识的表面价值，看不到隐性知识的深层智慧深知识提炼归纳分析知识的隐形价值增值加工。知识工具化，业务智能化。

18. 大模型应用上线后，回答准确率不高。 • • 问题参照导入框架，导入应用。参照大模型准确率优化办法，逐步优化。对策大模型准确率优化办法： 1. 从一个简单的提示开始。 2. 添加少样本提示。 3. 使用检索增强生成（RAG）进行简单的检索。 4. 微调模型。 5. 在微调后的模型上优化检索。 • 企业成功导入 AI 框架调优所有提示词工程搜索增强参考数据优化（模型知识）

19. 智能体应用就是把工具开发好，让大模型去调用，实现业务功能。 • • 任务复杂，大模型无法进行任务拆解。工具特别多，大模型不知道该如何编排和调用。 • • 通过工作流编排对多个工具的调用。通过多智能体拆解复杂任务。、工作流编排：通过将复杂的任务分解成较小的步骤（节点）降低系统复杂度，减少了对提示词技术和模型推理能力的依赖，提高了应用面向复杂任务的性能，提升了系统的可解释性、稳定性和容错性。、多智能体：困难对策

20. 高 • 听自媒体说，大模型能做这个做那个，自己尝试导入后，发现效果并不好。 • 了解大模型的有用性，对有用性高的领域进行导入，导入成功率高。中困难对策 • 对有用性低的领域进行导入，导入成本高，效果也很难达到预期，可能导致项目失败。低 • • • 内容生成会话型用户界面信息和知识发现 • • • • • 分类推荐系统识别智能自动化异常检测/监视 • • • • 预测计划决策智能自动系统大模型的有用性 https://www.gartner.co.jp/ja/articles/when-not-to-use-generative-ai

21. • • 通用的落地场景大家都知道，比如知识库。还有什么落地场景不清楚。 • • 寻找员工工作中重复性大的工作。通过梳理每个员工日常工作的SOP，找到大模型应用点，落地大模型应用。寻找方法1：召开吐槽大会，找需求。正确场景：重复性大的工作，员工自己不想干，对AI项目不会排斥。AI产品上线后，用户愿意用，才能迭代打磨好。典型需求：会议纪要生成，数据报表生成，合同审核，知识库问答，话术质检，文字分析和打标签，写宣传文案。对策困难寻找方法2：通过梳理员工SOP，找需求。售前咨询案例通过邮件取下载客户问得客户依赖题列表 SOP：回答客户针对我公司产品咨询的问题。答案填写 • 查找过去回答记录 • 参照用户手册 • 参照内部文档答案检查邮件回复客户 • 参照客户邮件

22. 分享内容总结大模型带来的机会落地步骤 IT从业者技术框架 IT企业 3大场景典型案例问题对策学习如何导入大模型帮助企业导入大模型

23.

24.