跳到正文
arXiv · AI· Gregory Kang Ruey Lau, Hieu Dao, Nicole Kan Hui Lin, Bryan Kian Hsiang Low·· 4 天前AI 评分42

UMPIRE:面向多模态大语言模型的无训练不确定性量化框架

Uncertainty Quantification for Multimodal Large Language Models with Incoherence-adjusted Semantic Volume

AI 导读

UMPIRE 是一种无训练的多模态大语言模型(MLLMs)不确定性量化框架,能高效检测错误输出并支持将低可靠性查询升级至人工或更大模型。 该框架受行列式点过程(DPPs)启发,通过计算采样响应的非一致性调整语义体积,结合语义嵌入分散度与响应二次熵,无需外部工具。 实验显示,UMPIRE 在图像、音频和文本视频基准上的错误检测和不确定性校准上优于基线指标,并可推广至非文本输出任务。

来源:arXiv · AI · arxiv.org