arXiv · NLP· Nathani\"el de Leeuw, Marceau Nahon, Mathis Reymond, Raja Chatila, Mehdi Khamassi·· 4 小时前AI 评分38
语义欺骗：当推理模型无法计算加法
Semantic Deception: When Reasoning Models Can't Compute an Addition
AI 导读
研究显示，基于新符号系统的简单计算任务中，语义线索显著降低大语言模型（LLMs）的推理性能。 实验对四个 LLM 进行测试，发现模型过度依赖表层语义而非符号逻辑，思维链（chain-of-thoughts）可能加剧对统计相关性的依赖。 这些局限性削弱了将推理能力赋予 LLMs 的倾向，凸显了其在涉及稳健符号推理的决策场景中的伦理风险。
来源：arXiv · NLP · arxiv.org