arXiv · ML· James Mickens·· 2026-10-08AI 评分37
LLM 语言不可读性对安全机制的影响
The Implications of Linguistic Illegibility for LLM Security
AI 导读
大语言模型(LLM)存在“语言不可读性”,即其内部计算与外部语言输出存在失配。这意味着依赖 CoT 监控或自我批评等语言机制的安全保障无法做到完全可靠。 文章指出 LLM 内部计算本质是激活空间的数学运算,语言转化存在损耗。
来源:arXiv · ML · arxiv.org