arXiv · AI· Edward C. Cheng, Jeshua Cheng, Alice Siu·· 4 小时前AI 评分22
面向安全可信 AI Agent 的“三支柱”治理框架
A Three-Pillar Governance Framework for Safe and Trustworthy AI Agents
AI 导读
该论文提出包含透明度、问责制和可信度的“三支柱”模型,用于构建安全可信的 AI Agent。 模型通过渐进验证、结构化人类监督和可审计操作控制实现 Agent 自主性的逐步扩展,支持生命周期监测和决策追溯。 框架为在保留人类意图对齐的前提下实现受控的高阶自主性提供了实用基础。
来源:arXiv · AI · arxiv.org