ToM推理与亲社会信念在最后通牒游戏中对LLM人类对齐行为影响的探索

研究通过2700次模拟表明，ToM推理增强了LLM在谈判任务中与人类规范的行为对齐、决策一致性及结果。该研究在Greedy、Fair、Selfless等信念及不同ToM推理层级下测试了多个模型。 结果表明推理型LLM能力有限，不同游戏角色受益于不同ToM阶次。Llama 3.3 70B的推理与其行动和信念最一致。该研究推进了对ToM在人机交互与合作决策中作用的理解。