智能判责在哈啰顺风车的应用

在普惠顺风车订单系统中，一旦司机和乘客建立订单关系后，若其中任何一方发起取消订单的请求，将触发判责算法，该算法将输出确定订单取消责任的一方。

目前，传统的智能责任判定算法在处理无沟通记录的情况下，准确率高达99.7%，但对于具有聊天记录和通话记录的案例，准确率稍有下降。而根据业务反馈，复杂案例需要自然人参与听取通话内容进行判定。

为了进一步提高准确率，关键的提升点在于文本和语音的语义理解。目前的深度学习模型在此方面达到了大约80%的准确率，但在特征融合过程中存在着较大的信息损失。

大模型在这方面具有独特的优势。同时，我们的责任判定场景有明确的SOP，可以通过一定手段来确保模型准确率达到可接受的水平。此外，大模型还能够提供责任判定的原因，这是以前的深度学习模型所无法实现的。

一个例子感受下大模型的强大之处：

输入：订单的上下文信息和司乘聊天信息。

输出：明确按照我给的判责流程进行判责工作，并给出推理过程和判责依据。

Prompt工程是创建Prompt、提问或指导像ChatGPT这样的语言模型输出的过程。

它允许用户控制模型的输出，生成符合其特定需求的文本。Prompt 工程的作用，通过提供清晰和具体的指令，可以引导模型的输出，确保其相关性。

简单举例，想创建一个负责生成文本的机器人，提示词需要遵循以下四个要点：

• 以第二人称而不是第三人称称呼机器人，让机器有自我认知

• 措辞尽可能地清晰，减少误解

• 可以在提示中使用方括号对指令进行扩展描述

• 使用Markdown有时可以帮助机器人更好地理解复杂的指令

这里的关键不在技术，而在提示词的质量与创作者的脑洞，以及善于利用AI解决问题的能力——“人机交互”能力。

随着使用越来越多大家也发现大模型直接给出答案似乎并不靠谱，那么是否可以让它像人类一样，一步一步思考呢？毕竟，人类在解决问题时，也是逐渐构建解决方案，而并非立即给出答案。因此，开始出现了一系列的尝试解法，比如思维链、多思维链、思维树和思维图等。

这可以通过两种方式实现，一种是具体说明，即要求模型详细地、一步步地思考；另一种是示例说明，即通过给定问题和答案的同时，提供思考过程。这样，当询问模型时，模型会模仿此过程，逐渐思考并给出答案。

步骤：

• 将知识库的文本分块，并进行向量化（可以使用大模型的embedding也可以使用如BERT等方法）

• 用户的query向量化，并在知识库中进行检索，返回最相关的TOPN的文本块

• 采用合适的prompt + 上述步骤搜索到的文本，一并输入给LLM

• 利用LLM的语义理解能力和知识问答能力，生成问题的答案

缺点很明显：只是匹配到最相关部分，不是理解全部语义，准确率有损。

Agents=LLM + 任务规划（COT） + 记忆(LangChain) + 工具使用

其中LLM是核心大脑，记忆、任务规划和工具使用则是Agents系统实现的三个关键组件。再加上行动端，形成一个完整的Agent System。

• 记忆（Memory）

记忆可以定义为获取、存储、保留和稍后检索信息的过程，其中包括储存了Agent过去的观察、思考和行动序列的信息。

• 短期记忆（Short-term memory）

由于Transformer模型的上下文窗口有限，短期记忆是一种短暂且有限的记忆形式；为了应对这种限制，目前有以下解决方案：

1. 扩展主干架构的长度限制：通过改进Transformer模型固有的序列长度限制问题来提高短期记忆的容量。比如gpt4-8k, gpt4-32k, gpt4-128k。

2. 总结记忆（Summarizing）：对记忆进行摘要总结，增强Agent从记忆中提取关键细节的能力，例如LangChain的Conversation Summary Buffer Memory

• 长期记忆（Long-term memory）

长期记忆是AI Agent可以在查询时处理的外部向量存储，可以通过快速检索访问，并使用适当的数据结构对记忆进行压缩，以提高记忆检索效率。

• 工具使用（Tool Use）

人类通过使用工具来完成超出我们身体和认知极限的任务。同样地，给LLM配备外部工具也可以显著扩展大模型的功能，使其能够处理更加复杂的任务。如联网工具、访问外部一切API的能力、访问业务服务API的能力。

• 任务规划（Planning Skills）

在具体实现中，规划可以包含两个步骤：

1. 计划制定（Plan Formulation）：代理将复杂任务分解为更易于管理的子任务。

一次性分解再按顺序执行、逐步规划并执行、多路规划并选取最优路径等。

在一些需要专业知识的场景中，代理可与特定领域的 Planner 模块（SOP）集成，提升能力。

2. 计划反思（Plan Reflection）：在制定计划后，可以进行反思并评估其优劣。这种反思一般来自三个方面：借助内部反馈机制；与人类互动获得反馈；从环境中获得反馈。

我们把Agent视作一个虚拟世界中的智能体，如MineCraft游戏中所设定的角色。这个角色可以沿着指定的路线，完成一些在环境中探索的任务，如建房子、挖矿、打怪等。这个角色首先需要被告知怎样去执行任务，例如自动训练课程计划的使用。然后逐步的完成任务，形成自己的执行代码库、技能库等，这样就算是在以后遇到相似的任务，它都能快速调用已有的技能和经验来完成任务。某种意义上，这就是一种强化学习的方式。

之前的介绍的方案都是在不改变大模型原有参数的情况下。

在我们探索大模型的应用过程中，从prompt工程转向微调方案是一个重要的步骤。这个转变涉及到模型的训练和优化方式的根本性改变。

而微调方案都是在预训练模型的基础上，通过微调部分参数，来适应特定的任务。微调方案主要包括Freeze、prompt tuning、LoRA等。

这两种方法各有优势，Prompt工程的优点在于其高效性和灵活性，而微调方案则可以更精细地调整模型以适应特定任务。而且通常是结合起来使用。

• Lora方法

LoRA（Low-Rank Adaptation of Large Language Models），直译为大语言模型的低阶自适应。LoRA 的基本原理是冻结预训练好的模型权重参数，在冻结原模型参数的情况下，通过往模型中加入额外的网络层，并只训练这些新增的网络层参数。由于这些新增参数数量较少，这样不仅 finetune 的成本显著下降，还能获得和全模型参数参与微调类似的效果。

随着大语言模型的发展，模型的参数量越来越大，比如 GPT-3 参数量已经高达 1750 亿，因此，微调所有模型参数变得不可行。LoRA 微调方法由微软提出，通过只微调新增参数的方式，大大减少了下游任务的可训练参数数量。

A的输入维度和B的输出维度分别与原始模型的输入输出维度相同，而A的输出维度和B的输入维度是一个远小于原始模型输入输出维度的值，这也就是low-rank的体现（有点类似Resnet的结构），这样做就可以极大地减少待训练的参数了。

我们也尝试了lora微调实验，在同样的prompt和相同基座下准确率由之前的32%提升至微调后的60%。