arXiv · NLP· Ajit Mallavarapu, Ziwei Gu·· 11 天前AI 评分24
无需训练发现LLM激活中的风格轴
Sampling Reveals Style: Unsupervised, Training-Free Discovery of Prompt-Conditional Stylistic Axes in LLM Activations
AI 导读
研究提出一种无训练的方法,利用高温采样和PCA分析,在LLM激活中发现条件提示的风格轴。在Qwen-3.5-4B-Instruct模型上,前两个轴与人类标注的72.8%精确度和75.6%的有效性评估相符。
来源:arXiv · NLP · arxiv.org