TraceMRT框架检测思维链监控漏洞

1. 13:00
   arXiv · AI

   针对隐蔽失准的Chain-of-Thought监控压力测试

   研究提出TraceMRT框架以测试Chain-of-Thought监控对隐蔽失准的鲁棒性，通过黑盒攻击GPT-5.2和Claude-4.5揭示了其显著漏洞。 框架将侧任务重构为连贯子目标，并配合贝叶斯轨迹监控检测隐蔽行为，新方法达到0.91 AUC和0.74 TPR@FPR=0.05。 该工作发表于NeurIPS 2026，旨在提升AI智能体安全约束的可信度。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。