arXiv · ML· Marco De Negri, Luca Sartori, Lorenzo Baggi, Moritz Reihs, Eduard Frank \v{D}urech, Mennatallah El-Assady, Valentina Pyatkin, Anna Hedstr\"om·· 7 天前AI 评分29
评估语言模型失败中的token级警报:引入PREWARN协议
Detection Is Not Early Warning: Evaluating Token-Level Alarms on Language Model Failures
AI 导读
针对语言模型生成过程中的失败检测,研究提出PREWARN评估协议,用于衡量监控器在特定token起始点发出预警的能力。该协议在三个开源语言模型的重复退化案例中,将监控器阈值校准至特定错误率,并评分警报相对于故障起始点的时间。
来源:arXiv · ML · arxiv.org