跳到正文
arXiv · AI· Niclas Flehmig, Mary Ann Lundteigen, Shen Yin·· 29 天前AI 评分40

COMET:面向人类监督 AI 安全系统的协调多层运行时监控框架

COMET: A coordinated multi-layer runtime monitoring framework for human-supervised AI-enabled safety systems

AI 导读

COMET 框架通过协调多层监控,将可信错误答案率降至 0%。 监控层涵盖信号完整性、物理一致性和 AI 胜任范围,并在 1% 的误报率下实现零故障归因。 该框架揭示了被动监控在语义漂移下的局限,强调了定量故障检测与定性人类反馈结合的重要性。

来源:arXiv · AI · arxiv.org