AURAL 架构发布:加速语音模型推理
热点事件持续更新
AURAL 架构发布:加速语音模型推理
1 篇报道1 个报道来源6 小时前更新
先了解这件事
AI 综述
研究团队 Yuxiang Wang 等人在 arXiv 发布 AURAL 架构,这是一种面向语音语言模型的自适应潜在推理方法。其核心机制通过在潜在空间建模多路径推理,并联合预测未来状态块,显著减少了序贯前向传播次数。 在性能基准测试中,AURAL 在 Qwen2.5-Omni 模型上将首个答案 token 的延迟从 1.22 秒大幅降低至 0.10 秒,实现了 11.8 倍的加速效果。与此同时,该研究构建了名为 AuralReason 的数据集,包含约 1000 小时、共计 683K 条的双语语音数据,为模型训练提供了丰富资源。 为了进一步提升性能,研究者引入了 AURAL-RL 机制。该机制能够探索超出固定推理轨迹的可能性,通过奖励生成高质量答案的简洁推理过程,实现推理预算的自适应调整。这一创新使得模型能够根据具体问题灵活分配推理资源,在保持高准确率的同时优化了推理效率。
AI 根据报道生成 · 3 小时前更新
最新进展10月20日 12:00
AURAL:面向语音语言模型的自适应潜在推理方法报道时间线
沿着报道,了解事件的不同侧面。
10月20日
- arXiv · NLPAURAL:面向语音语言模型的自适应潜在推理方法
AURAL 通过联合预测未来状态块减少序贯前向传播,在 Qwen2.5-Omni 上将首个答案 token 延迟从 1.22s 降至 0.10s,加速 11.8 倍。 该方法构建了包含 683K 双语语音数据(约 1000 小时)的 AuralReason 数据集,并引入 AURAL-RL 以自适应推理预算提升性能。
本事件热度走势
- 可比范围当前
- 9
- 可比范围峰值
- 910月20日 15:00
- 近 24 小时变化
- –
02.557.510
15:0016:0017:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。