跳到正文
arXiv · ML· Jipeng Li, Yanning Shen·· 2026-10-21AI 评分35

学习表示接口对安全生成控制的决策充分性研究

Decision Sufficiency of Learned Representation Interfaces for Safe Generative Control

AI 导读

研究提出“决策充分性”概念,检验控制器利用有限表示能否达到全状态信息下的最优平均损失。 通过在 Qwen2.5、SmolLM2 和 Phi 中审计稀疏自编码器特征,发现限制控制器使用两个开关特征时,其最小平均损失相比全状态信息增加 0.0345–0.1166。 该审计表明决策失败需通过改变控制器输入来解决,而非仅调整架构或训练策略。

来源:arXiv · ML · arxiv.org