arXiv · NLP· Edoardo Chidichimo·· 10 天前AI 评分28
CDA 如何解释并干预语言模型系统中的集体失准
Explaining and interrupting collective misalignment in language model systems
AI 导读
集体依赖分析(CDA)通过识别必要且充分的破坏性信息,有效解释并打断多智能体系统的集体失准。在受控场景中,通过删除关键信息,违规率从 93% 降至 6%。CDA 使用 O(N) 次模型评估,比前沿 LLM 判断器减少一半的删除量,并指出失准机制。
来源:arXiv · NLP · arxiv.org