Hacker News AI· jonbaer·· 8 天前AI 评分62
AI模型能检测神经活动被篡改吗:研究界关于自我反思能力的争议
AI Models Can Tell When Researchers Plant Concepts in Their Neural Networks
AI 导读
新研究显示部分大语言模型能检测到研究人员向其神经网络植入特定概念,但学界对其是否构成真正的“自我反思”存在巨大争议。Harvey Lederman和Kyle Mahowald在针对Qwen3-235B和Llama 3.1 405B的测试中发现,模型对植入模式的检测准确率分别可达53.9%和31.7%,但模型正确识别植入概念的能力更多源于注入带来的副作用而非真正的理解。
来源:Hacker News AI · singularityhub.com