热点事件持续更新

First Passage Attention机制实现选择性遗忘

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

2026年10月19日，arXiv发表研究提出首次通过注意力（FPA）机制。该机制通过路径极值替代传统求和衰减，利用降低键的logit比例至学习标量场的最低点，在常维头部实现任意键子集的选择性保留。实验显示，FPA在1.1亿参数模型中困惑度与FoX持平。该机制仅在KV缓存压缩至25%时实现完美passkey检索。FPA扩展了Forgetting Transformer的特殊案例，解决了单调累加无法保留旧结构的局限。

AI 根据报道生成 · 7 小时前更新

最新进展10月19日 12:00

首次通过注意力（First Passage Attention）通过路径极值实现选择性遗忘

报道时间线

沿着报道，了解事件的不同侧面。

10月19日

12:00
arXiv · NLP
首次通过注意力（First Passage Attention）通过路径极值实现选择性遗忘
提出首次通过注意力（FPA）机制，利用路径极值替代求和衰减，在常维头部即可实现任意键子集的选择性保留。 FPA 在 1.1 亿参数模型中与 FoX 困惑度持平，且仅在 KV 缓存压缩至 25% 时实现完美 passkey 检索。 FPA 扩展了 Forgetting Transformer 的特殊案例，解决了单调累加无法保留旧结构的局限。

本事件热度走势

可比范围当前: 8
可比范围峰值: 1010月19日 13:00
近 24 小时变化: –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。