arXiv · NLP· Alexandra Kuleshova, Andrey Volodichev, Daria Kotova, Alexey Zaytsev·· 8 小时前AI 评分24
DarkLens：基于暗空间投影评估 LLM 上下文依赖与忠实性幻觉
What LLMs Do in the Shadows: Reading Context Reliance from the Unembedding Dark Space
AI 导读
该研究提出 DarkLens 检测器，通过计算隐藏状态在暗空间的 Dark Matter Ratio（DMR）直接评估 LLM 上下文利用率。 方法无需额外前向传播或辅助探针训练，在 3 个基准测试、6 个 4B-13B 开源模型上匹配或超越现有基线。 为高风险领域的大语言模型安全部署提供轻量级忠实性幻觉检测方案。
来源：arXiv · NLP · arxiv.org