arXiv · ML· Leon Chlon, Julie Huang·· 17 小时前AI 评分51
arXiv 论文:统一在上下文学习与微调的定量法则
When Thoughts Become Memory: Unifying In-Context Learning and Fine-Tuning
AI 导读
arXiv 论文提出首个证明规则,基于精确信息价值定律,统一在上下文学习与微调;该定律在 TabPFN、occupancy 网络等模型上的证书全部正确,anytime-valid 测试在 32 次比较中 61,948/64,000 查询流中正确选择 GPT-2 的缓存或微调,并诊断何时上下文学习有效。
来源:arXiv · ML · arxiv.org