Burc Gokden发布PLDR-LLM动力学专著
热点事件持续更新
Burc Gokden发布PLDR-LLM动力学专著
2 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年11月4日,Burc Gokden在arXiv平台发布专著论文《Training and Inference Dynamics of PLDR-LLMs》,该论文已纳入同年出版的书籍《Power Law Graph Attention and PLDR-LLMs: Mathematical Foundations, Training Dynamics, and Predictive Inference》。 这篇658页的专著提出了PLDR-LLM模型训练与推理机制的统一描述,重点阐述了行图坍缩和重新标准化在其中的关键作用,并涉及行中心学习图绝对能量分解等理论内容。 研究区分了精确恒等式、条件动力学主张及有限的经验发现,提供了数学证明与紧凑的数值证据,分类属于机器学习(cs.LG)与计算语言学(cs.CL)领域。
AI 根据报道生成 · 1 小时前更新
最新进展11月4日 13:00
PLDR-LLMs 的训练与推理动力学研究事件进展
2 个进展
- 11月4日 13:00 · 1 篇报道PLGA注意力机制论文更新arXiv · ML:PLGA: 缩放点积注意力的精确泛化及推理坍塌机制
- 11月4日 13:00 · 1 篇报道PLDR-LLM训练推理动力学专著发布arXiv · ML:PLDR-LLMs 的训练与推理动力学研究
报道时间线
沿着报道,了解事件的不同侧面。
11月4日
- arXiv · MLPLDR-LLMs 的训练与推理动力学研究
PLDR-LLM 模型训练和推理机制的统一描述中,行图坍缩和重新标准化起到关键作用。 这项研究涉及行中心学习图绝对能量的分解、预测重新标准化以及自主简化过程。 该理论将精确恒等式、条件动力学主张和有限的经验发现区分开来,并提供了证明和紧凑的数值证据。
- arXiv · MLPLGA: 缩放点积注意力的精确泛化及推理坍塌机制
PLGA 通过构建基于幂律的输入生成双线性算子 G_LM,作为缩放点积注意力 (SDPA) 的精确泛化,并在 G_LM 为单位矩阵时包含 SDPA。该架构证明了精确输入不变性会导致推理坍塌至广义 SDPA,并测得相对波动低于 10^-6。 部分证明核心已在 Lean 4 中机器验证,且块级训练与全局 Gram 打分在 TruthfulQA 上误差小于 5x10^-5。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。