arXiv · ML· Sota Ogawa, Shojiro Yamabe, Daiki Nishiyama, Jun Sakuma·· 11 天前AI 评分30
通过微调路径推断重建大语言模型谱系树
Reconstructing LLM Lineage Trees via Fine-Tuning Path Inference
AI 导读
论文提出 TRACE-Edge 方法,在灰盒访问下利用非对称对数似然偏差精确求解最大生成有向树,以重建大语言模型(LLM)的有向谱系树。 该方法无需检查模型权重,仅在 25 个由 3 个基础模型构建的谱系树配置上评估,使用微调示例探测时父级匹配准确率达 0.74。 现有输出型方法仅支持成对测试或无向估计,而准确推断派生方向对审计外包微调、确认许可合规及追踪漏洞至关重要。
来源:arXiv · ML · arxiv.org