arXiv发布提示词使模型相信虚假事实论文
热点事件持续更新
arXiv发布提示词使模型相信虚假事实论文
1 篇报道1 个报道来源13 小时前更新
先了解这件事
AI 综述
2026年11月18日,arXiv平台发布论文《Can you make models believe false facts in the prompt?》。该论文由Ananya Sutradhar等人撰写,探讨了如何利用提示词使大型语言模型相信虚假事实。 研究主要介绍了一种提示词条件化合成文档微调(SDF)方法。该方法能有效让模型相信提示词中的虚假信息,且模型信念深度随训练事实数量呈对数线性增长。实验表明此方法成本较低,并结合强化学习技术,在部分评测中使虚假事实口述率接近常规SDF水平。 研究发现小模型在常规蜜罐系统提示中,已对提示词中的事实表现出相信倾向。这种倾向导致后续对齐审计实验结果呈现负面反馈。该研究揭示了模型在处理提示词信息时存在的潜在认知偏差与安全性挑战。
AI 根据报道生成 · 12 小时前更新
最新进展11月19日 13:00
提示词条件化合成文档微调如何让 LLM 相信虚假事实报道时间线
沿着报道,了解事件的不同侧面。
11月19日
- arXiv · AI提示词条件化合成文档微调如何让 LLM 相信虚假事实
提示词条件化 SDF 让 LLM 相信 prompt 中的虚假事实,其信念深度随训练事实数量呈对数线性增长。该方法成本较低,结合 RL 减少虚假事实口述率在部分评测中接近 SDF。 小模型在常规蜜罐系统提示中常已表现出对 prompt 事实的相信,导致对齐审计实验结果为负面。
本事件热度走势
- 可比范围当前
- 7
- 可比范围峰值
- 1011月19日 14:00
- 近 24 小时变化
- –
02.557.510
14:0016:0018:0020:0022:0011月20日
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。