arXiv · NLP· Yuxiang Wang, Kunyu Feng, Yuancheng Wang, Zihang Liu, Shengbo Cai, Qinke Ni, Wan Lin, Tao Feng, Yingda shen, Ming-Hao Hsu, Zhixian Zhao, Liqiang Zhang, Teddy Sun, Steve Yves, Zhizheng Wu·· 6 小时前AI 评分36
AURAL:面向语音语言模型的自适应潜在推理方法
AURAL: Adaptive Latent Reasoning with Joint Chunk for Speech Language Models
AI 导读
AURAL 通过联合预测未来状态块减少序贯前向传播,在 Qwen2.5-Omni 上将首个答案 token 延迟从 1.22s 降至 0.10s,加速 11.8 倍。 该方法构建了包含 683K 双语语音数据(约 1000 小时)的 AuralReason 数据集,并引入 AURAL-RL 以自适应推理预算提升性能。
来源:arXiv · NLP · arxiv.org