跳到正文
arXiv · NLP· Yiwen Shao, Wei Liu, Jiahong Li, Tianzi Wang, Kun Wei, Meng Yu, Dong Yu·· 5 小时前AI 评分43

AZeroS 模型:基于自生成无指令调优扩展 LLM 至语音领域

AzeroS: Extending LLM to Speech with Self-Generated Instruction-Free Tuning

AI 导读

提出 AZeroS 模型,基于 Qwen2.5-7B-Instruct,通过自生成无指令调优(SIFT)范式扩展 LLM 至语音领域,无需收集任务特定问答对。 利用约 25,000 小时带 ASR 转录的语音和 3,000 小时带副语言标签的语音进行训练,仅更新两个 23.80M 参数的轻量投影模块,保持 LLM 和音频编码器冻结。

来源:arXiv · NLP · arxiv.org