arXiv · AI· Oz Amram·· 5 小时前AI 评分44
基础模型可检测提示词分类器遗漏的隐藏意图
Base Models Can Detect Hidden Intentions that Prompted Classifiers Miss
AI 导读
研究者提出persona-header likelihood evaluation方法,证明基础预训练模型能解码并分类植入语义无关输出的潜意识信号,而提示词分类器包括生成模型本身准确率接近随机。 该方法在Qwen和Olm模型间显示出部分跨模型家族信号持久性,例如区分生成模型在“爱猫头鹰”与“爱鹰”提示词下生成的数字序列,或识别被过滤隐藏危害欲望的模型回答与无系统提示词回答的差异。
来源:arXiv · AI · arxiv.org