Lattice Deduction Transformers

Lattice Deduction Transformer (LDT) 提出了一种近似逻辑演绎的循环 Transformer 架构，其 $800\text{K}$ 参数版本在 Sudoku-Extreme 上解决了 $99.999\%$ 的测试谜题，且训练计算量不足先前模型估计值的 $2\%$。