arXiv · AI· Matthew McDermott, Florent Pollet, Payal Chandak, Gregory Kondas, Liat Friedman Antwarg, Noa Dagan, Isaac Kohane·· 1 天前AI 评分39
理解与构建具备“任意任务推理”能力基础模型的理论框架
A Theoretical Framework for Understanding and Building "Any-task inference" Capable Foundation Models
AI 导读
该研究为聚焦“任意任务推理”(ATI)的基础模型提供了形式化数学框架与定义,指出其通过将数据样本映射到标签空间,可分解为编码器、模型和解码器三部分,并据此建立错误分解机制。 框架利用“通用任务约化”视角,将误差分解为衡量最优性潜力的“设计项”和反映系统交互的“模型超额项”,并结合5个现实案例,提出了生成式与判别式两种实现ATI基础模型的典型方案。
来源:arXiv · AI · arxiv.org