LLM 自反编译：将权重转化为传统代码

探讨利用能力强大的 LLM 访问自身权重和激活状态，反向工程将其内部计算转化为人类可读的传统源代码，以克服对齐中的黑箱障碍。 文中引用 Friedman 等人关于可训练的 Transformer 能转化为 Python 程序的研究，证明将计算结构重构为代码在技术上具有可行性。