arXiv · NLP· Jinwei Hu, Qisong He, Xinmiao Huang, Youcheng Sun, Yi Dong, Xiaowei Huang·· 3 天前AI 评分30
语言模型智能体信念可通过开放渠道中的真实证据被操纵
Language-model agents' beliefs can be manipulated via truthful evidence in open channel
AI 导读
语言模型智能体信念可通过社交媒体等开放渠道中的真实证据被操纵。基于1,090个谣言目标的研究显示,在14个模型中12个的谣言接受率超过65%,多数投票后仍高于50%。 引入Grounded Monitor神经符号运行时监控器,将决策准确率提升5.6至29.0个百分点,支持在结论前监控推断关系。
来源:arXiv · NLP · arxiv.org