arXiv · NLP· Dmitry Scherbakov, Oleg Chernikov, Victoria Khamash, Kirill Afendulev, Alexey Dontsov, Ivan Oseledets, Elena Tutubalina, Anton Korznikov·· 3 小时前AI 评分41
From Stories to Features: Scaling Concept Vectors for AI Alignment & Interpretability
From Stories to Features: Scaling Concept Vectors for AI Alignment & Interpretability
AI 导读
研究提出通过合成故事对构建概念向量，覆盖 1,036 个与 AI 对齐相关的概念。 该向量在跨 3 个模型家族的 6 个大模型中可靠泛化，并能因果性地引导模型行为。 该方法为研究语言模型概念提供了可扩展路径，潜在可拓展至数百万个特征。
来源：arXiv · NLP · arxiv.org