arXiv · ML· Jose L. Sampedro Mazon, Ilmi Yoon, Nadim Saad·· 7 天前AI 评分25
验证和操控LLM中的职业角色向量:系统提示词真的分配了什么角色?
What Roles Do System Prompts Really Assign? Validating and Steering Occupational Role Vectors in LLMs
AI 导读
该研究提出框架以提取和注入职业角色向量,并在 Qwen2.5-7B-Instruct 和 Llama-3.1-8B-Instruct 上通过可解释性与控制两个视角进行验证。 角色向量在可解释性上表现出高度可复现性、可分离性和领域一致性;在控制视角下,单独注入向量虽能增强角色表达,但其效果最好时与角色提示词相当,且在30轮对话中未能减缓角色衰减。
来源:arXiv · ML · arxiv.org