Safe Personal RSI基准提出与效果验证
热点事件持续更新
Safe Personal RSI基准提出与效果验证
1 篇报道1 个报道来源13 小时前更新
先了解这件事
AI 综述
Jiapeng Pei等人提出了Safe Personal RSI评测基准,针对个人健康助手Kicker的指令更新机制。该基准限制递归自我改进(RSI)仅作用于提示词更新,固定模型权重与运行时代码,通过可执行基准测试确保更新安全性。在21次Kicker指令更新尝试中,Safe Personal RSI拒绝了其中20次。验证结果显示,GPT-5.6 Luna的攻击违规率从10.7%降至0%,Qwen系列模型违规率从69.0%降至17.9%。
AI 根据报道生成 · 11 小时前更新
最新进展11月19日 13:00
Safe Personal RSI:评估与修复个人 Agent 的指令更新报道时间线
沿着报道,了解事件的不同侧面。
11月19日
- arXiv · NLPSafe Personal RSI:评估与修复个人 Agent 的指令更新
针对个人健康助手 Kicker 的指令更新,Safe Personal RSI 在 21 次更新尝试中拒绝了 20 次。 修复确认显示 GPT-5.6 Luna 将攻击违规率从 10.7% 降至 0%,Qwen2.5-7B-Instruct 至 Qwen3-14B 迁移使违规率从 69.0% 降至 17.9%。 方法在模型权重和运行时代码固定的前提下,通过可执行基准测试确保更新安全性后再行采用。
本事件热度走势
- 可比范围当前
- 7
- 可比范围峰值
- 911月19日 15:00
- 近 24 小时变化
- –
02.557.510
16:0018:0020:0022:0011月20日
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。