arXiv · ML· Jeremy Canale·· 2026-10-07AI 评分43
Alignment Scaling Laws 框架及预注册测量
Toward Alignment Scaling Laws: A Framework and First Preregistered Measurements
AI 导读
提出 Alignment Scaling Laws 框架,将对齐负担建模为 B_r(N)=a_rN^alpha_r,并给出可预注册协议。 在 Pythia 分类器上,攻击成功率降至 10% 所需算力随 N^0.60 增长;Qwen2.5 0.5B-72B 中真实性指数为 -0.05,表观意图为 0.48,谄媚性为 0.89。
来源:arXiv · ML · arxiv.org