arXiv · AI· Behrooz Tahmasebi, Melanie Weber·· 13 小时前AI 评分29
Test-Time Symmetrization: Scaling Laws for Model-Agnostic Learning under Structure
Test-Time Symmetrization: Scaling Laws for Model-Agnostic Learning under Structure
AI 导读
研究证明 $O(\log |G|)$ 次随机重写足以替代单一表示的重复采样,恢复所有 $|G|$ 次重写提供的信息,且该对数扩展律在一般情况下是最优的。 理论表明,只要模型答案依赖于输入写法,在相同前向传递次数下,将计算预算用于重写输入而非重复采样原始提示词,准确率会显著提升。
来源:arXiv · AI · arxiv.org