跳到正文
热点事件持续更新

Safe Personal RSI基准提出与效果验证

1 篇报道1 个报道来源13 小时前更新

先了解这件事

AI 综述

Jiapeng Pei等人提出了Safe Personal RSI评测基准,针对个人健康助手Kicker的指令更新机制。该基准限制递归自我改进(RSI)仅作用于提示词更新,固定模型权重与运行时代码,通过可执行基准测试确保更新安全性。在21次Kicker指令更新尝试中,Safe Personal RSI拒绝了其中20次。验证结果显示,GPT-5.6 Luna的攻击违规率从10.7%降至0%,Qwen系列模型违规率从69.0%降至17.9%。

AI 根据报道生成 · 11 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月19日
  1. arXiv · NLP
    Safe Personal RSI:评估与修复个人 Agent 的指令更新

    针对个人健康助手 Kicker 的指令更新,Safe Personal RSI 在 21 次更新尝试中拒绝了 20 次。 修复确认显示 GPT-5.6 Luna 将攻击违规率从 10.7% 降至 0%,Qwen2.5-7B-Instruct 至 Qwen3-14B 迁移使违规率从 69.0% 降至 17.9%。 方法在模型权重和运行时代码固定的前提下,通过可执行基准测试确保更新安全性后再行采用。

本事件热度走势

可比范围当前
7
可比范围峰值
911月19日 15:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。