Hacker News LLM· hemanth2k·· 2 小时前AI 评分44
Mistrial:重跑 LLM 评判以检测结果翻转
Mistrial – Re run your LLM judge and see how often it flips
AI 导读
Mistrial 是一款用于验证 LLM 评判者可靠性的工具,支持重跑评估以生成一致性报告。 它通过多次运行不同模型和评分标准,计算自我一致性、Kappa 系数及翻转案例。 该工具旨在解决 LLM 评判不稳定的问题,防止不可信的评分误导 CI 流程。
来源:Hacker News LLM · github.com