跳到正文
arXiv · NLP· Runyi Hu, Jie Zhang, Shiqian Zhao, Jiale Meng, Jiwei Li, Jason Zeng, Ming Wu, Michael Heinrich, Yonggang Wen, Tianwei Zhang·· 10 天前AI 评分20

SIA 提出稀疏推理时对齐方法,通过高熵节点干预提升 LLM 对齐效率

Inference-time Alignment via Sparse Junction Steering

AI 导读

研究提出 Sparse Inference-time Alignment (SIA),通过在生成轨迹的高熵节点进行稀疏干预,解决密集干预导致的计算开销大及分布漂移问题。

来源:arXiv · NLP · arxiv.org