arXiv 论文提出内核契约以解决模型行为一致性问题
热点事件持续更新
arXiv 论文提出内核契约以解决模型行为一致性问题
1 篇报道1 个报道来源6 小时前更新
先了解这件事
AI 综述
针对机器学习模型中相同权重因执行内核不同导致 next-token 分布偏差的问题,研究人员 Lan Wu 等指出,现有模型描述往往忽略了这种对执行环境的依赖。 该研究提出了“内核契约”概念,通过显式索引执行策略的内核来限制推理漂移。契约明确规定了服务内核相对于参考内核在特定流量切片上的允许漂移范围,以及当超过限制时系统应执行的应对措施。 在验证环节,研究团队使用 Qwen2.5-7B-Instruct 模型测试了该机制,推导并验证了 logit 差异与 KL 散度的非渐近界,确认了内核契约在确保行为一致性方面的有效性。
AI 根据报道生成 · 2 小时前更新
最新进展10月23日 12:00
机器学习模型行为一致性:推理内核差异对输出分布的影响报道时间线
沿着报道,了解事件的不同侧面。
10月23日
- arXiv · ML机器学习模型行为一致性:推理内核差异对输出分布的影响
相同权重因执行内核不同导致next-token分布产生偏差,现有模型描述忽略这种依赖。 研究通过内核契约限制推理漂移,并在Qwen2.5-7B-Instruct上验证了logit差异与KL散度的非渐近界。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。