arXiv · AI· Justus Westerhoff, Stephan Olbrich, Hatem Oraby, Walter Senn, Matthew Evan Larkum, Felix Alexander Gers·· 11 天前AI 评分33
LLM 层程序:通过皮层区域视角分析 PoLar 的动态层路由
Programs-of-Layers in LLMs through the Lens of Cortical Areas
AI 导读
研究复现并扩展了 PoLar 的层跳过与重复机制,证实组合策略优于单一操作,且难题需更多层重复。 发现学习路由器增益主要源于修复答案格式,固定程序在修正格式提示下同样有效,且纠错程序具有脆弱性。 PoLar 类似丘脑-皮层协调机制,但能有效按输入选择更优程序的类丘脑路由器尚未找到。
来源:arXiv · AI · arxiv.org