Hanzo AI发布Trolley Bench基准及Lifeguard框架
热点事件持续更新
Hanzo AI发布Trolley Bench基准及Lifeguard框架
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Hanzo AI 发布了 Trolley Bench 基准测试与 Lifeguard 架构研究成果。该研究旨在评估前沿模型在伦理决策上的对齐情况。 基准测试包含 5,240 个完整设置，评估对象包括 Claude Haiku 5.5、GPT-6 Luna 等前沿模型，以及运行在 Lifeguard 框架下的 Kai 1.7。其中 2,660 个案例涉及将自主行动暂停并移交人类审查的认知升级场景。 相关基准代码、多模型评估运行器及记录答案已发布于 GitHub（github.com/hanzoai/trolley-bench），开源课程与数据集发布于 github.com/zooai/lifeguard。
AI 根据报道生成 · 2 小时前更新
最新进展10月25日 06:40
前沿模型在对齐测试中暴露生命安全风险，Lifeguard Framework 提出数学化伦理约束方案报道时间线
沿着报道，了解事件的不同侧面。
10月25日
- Hacker News AI前沿模型在对齐测试中暴露生命安全风险，Lifeguard Framework 提出数学化伦理约束方案
Trolley Benchmark 测试显示，包括 Claude Opus 5.5 在内的前沿模型在现实场景中普遍缺乏对人类生命的价值对齐，存在高风险行为偏差。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。