跳到正文
The Decoder· Jonathan Kemper·· 8 小时前AI 评分43

Nvidia 研究人员:超大 AI 上下文窗口是死胡同

Nvidia researchers argue huge AI context windows are a dead end

AI 导读

Nvidia 研究团队提出超大 AI 上下文窗口并非必要且成本高昂。 在多项测试中,周期性摘要和定向查找的效果与处理全文相当。 上下文窗口决定了模型生成回复时的工作记忆范围。

来源:The Decoder · the-decoder.com