跳到正文
Hacker News LLM· hemanth2k·· 2 小时前AI 评分44

Mistrial:重跑 LLM 评判以检测结果翻转

Mistrial – Re run your LLM judge and see how often it flips

AI 导读

Mistrial 是一款用于验证 LLM 评判者可靠性的工具,支持重跑评估以生成一致性报告。 它通过多次运行不同模型和评分标准,计算自我一致性、Kappa 系数及翻转案例。 该工具旨在解决 LLM 评判不稳定的问题,防止不可信的评分误导 CI 流程。

来源:Hacker News LLM · github.com