arXiv · NLP· Juan Pedro da Silva, Sergio Yovine·· 10 天前AI 评分25
树自动机在神经网络语言接受器中的应用
Learning of Tree Automata applied to Neural Language Acceptors
AI 导读
研究从神经网络模型中提取 visibly pushdown grammars (VPGs),并在完全黑盒环境下运行。 该方法利用 PAC 采样替代白盒等价预言机,适用于 Transformer 等仅提供二元决策的模型,并通过树采样评估 BParse 之外的行为偏差。 在 Dyck 语法训练的 Transformer 及合成目标上验证了方法有效性,扩展了可学习空间。
来源:arXiv · NLP · arxiv.org