arXiv · NLP· Tao Zhang, Yuhang He·· 10 天前AI 评分37
LongCapHarness:长上下文推理的能力引导式自动框架
LongCapHarness: Capability-Guided Auto-Harnessing for Long-Context Reasoning
AI 导读
LongCapHarness 框架通过递归自改进修订能力原语实现长上下文推理,无需数据合成或 LLM 后训练。该框架在 Llama3-8B 和 Qwen2.5-3B 上测试,在 HELMET 和 RULER 基准上大幅优于数据合成基线,且开发成本低于 NExtLong 和 PolicyLong 预估训练成本的 50%。
来源:arXiv · NLP · arxiv.org