跳到正文
arXiv · ML· Leon Chlon, Julie Huang·· 17 小时前AI 评分51

arXiv 论文:统一在上下文学习与微调的定量法则

When Thoughts Become Memory: Unifying In-Context Learning and Fine-Tuning

AI 导读

arXiv 论文提出首个证明规则,基于精确信息价值定律,统一在上下文学习与微调;该定律在 TabPFN、occupancy 网络等模型上的证书全部正确,anytime-valid 测试在 32 次比较中 61,948/64,000 查询流中正确选择 GPT-2 的缓存或微调,并诊断何时上下文学习有效。

来源:arXiv · ML · arxiv.org