迈向可信AI Agent：Jeddak AgentArmor意图对齐与约束遵循方案

迈向可信 AI Agent：Jeddak AgentArmor 意图对齐与约束遵循方案

摘要

字节跳动提出Jeddak AgentArmor智能体安全框架，旨在解决AI Agent在意图理解与约束遵循中的安全困境。通过双重机制确保AI Agent在开放环境中持续正确理解意图并严格遵循约束，保持行为可信、可控、可审计。框架借鉴自动驾驶与零信任理念，创新性地采用概率性信任传播与约束表达技术，为构建可信AI Agent提供了理论支持与实践方案。