一文了解3种用户提示词加固方案

一文了解 3 种用户提示词加固方案

摘要

智能体用户提示词加固通过追加安全标签，提升大模型对安全规则的遵守性。系统提示词加固存在用户提示词权重过高、遗忘性和“乐于助人”等缺陷，用户提示词加固则通过动态标签唤醒约束记忆，切换至先研判再回答模式。职责、动态和边界加固三类方案分别从职责提醒、意图研判和任务边界入手，有效提升智能体安全效果。