AZeroS无指令微调语音LLM发布
热点事件持续更新
AZeroS无指令微调语音LLM发布
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
Yiwen Shao等人在arXiv发布AZeroS技术报告,提出基于自生成无指令调优(SIFT)范式将大语言模型扩展至语音领域的方案。该模型无需收集任务特定问答对,直接利用公开语料库中的语音文本对进行训练。 AZeroS基于Qwen2.5-7B-Instruct构建,训练数据包含约25000小时带ASR转录的语音及3000小时带副语言标签的语音。模型架构保持LLM主干与音频编码器冻结,仅更新两个23.80M参数的轻量投影模块,实现了高效微调。 在性能测试中,AZeroS在VoiceBench、AIR-Bench Foundation (Speech)及AIR-Bench Chat (Speech)等语义和副语言基准测试中取得了最先进的水平,验证了该无指令微调范式的有效性。
AI 根据报道生成 · 1 小时前更新
最新进展10月28日 12:00
AZeroS 模型:基于自生成无指令调优扩展 LLM 至语音领域报道时间线
沿着报道,了解事件的不同侧面。
10月28日
- arXiv · NLPAZeroS 模型:基于自生成无指令调优扩展 LLM 至语音领域
提出 AZeroS 模型,基于 Qwen2.5-7B-Instruct,通过自生成无指令调优(SIFT)范式扩展 LLM 至语音领域,无需收集任务特定问答对。 利用约 25,000 小时带 ASR 转录的语音和 3,000 小时带副语言标签的语音进行训练,仅更新两个 23.80M 参数的轻量投影模块,保持 LLM 和音频编码器冻结。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。