跳到正文
arXiv · AI· Jennifer Meng Lu, Ruochen Zhang, Isabelle Lee, David Alvarez-Melis, Ellie Pavlick, Naomi Saphra·· 3 天前AI 评分25

对抗性概念搜索:基于特征几何预测组合错误

Adversarial Concept Search: Predicting Compositional Errors From Feature Geometry

AI 导读

提出利用LLM表征几何学预测概念组合失败的方法,将组合失效归因于显著特征间的干扰。 研究发现,若两个概念近正交编码,模型可可靠组合;若线性编码接近产生干扰,模型则失败。该方法无需评估特定输入即可预判失效模式。 该结果为基础利用几何学识别高风险样本、构建针对性压力测试提供了可扩展框架。

来源:arXiv · AI · arxiv.org