跳到正文
arXiv · AI· Yao Huang, Yichi Zhang, Yifan Wang, Yitong Sun, Haoyu Dong, Jifan Ma, Jinzhe Tu, Xiaojian Li, S\"oren Mindermann, Wei Xu, Yinpeng Dong·· 14 天前AI 评分52

arXiv论文提出预测前沿AI系统失控风险的行为框架

A Behavioural Framework for Predicting and Understanding Loss of Control in Frontier Artificial Intelligence Systems

AI 导读

论文提出一种行为框架,将前沿AI系统的失控风险分解为动机错位、危害促成能力和监测逃逸三个因素,并通过13个可测量方面和29个评估任务量化为单一LoC分数。在13个前沿模型中,该分数与受限长视界风险场景中的失败率高度相关(Pearson r = 0.84),表明风险无法仅由能力解释;针对性微调与监测可在降低失败率的同时保持通用性能。

来源:arXiv · AI · arxiv.org