跳到正文
arXiv · NLP· Wenqian Cui, Xiao-Hui Li, Daxin Tan, Qiyong Zheng, Irwin King·· 2 小时前AI 评分28

TextPro-SLM 从输入端最小化语音与文本模态差距

Minimizing Modality Gap from the Input Side: Your Speech LLM Can Be a Prosody-Aware Text LLM

AI 导读

TextPro-SLM 通过结合 WhisperPro 和 LLM 骨干,在 3B 和 7B 规模下实现了领先的模态差距最小化。 该系统仅需约 1,000 小时 LLM 训练音频即可在副语言理解任务中保持强劲性能,代码已公开,论文被 NeurIPS 2026 接收。

来源:arXiv · NLP · arxiv.org