LessWrong · All Posts· ModelMirror·· 3 小时前AI 评分44
LLM 调用的非独立性:忽视相关性的陷阱
Neutral Isn’t Independent: LLM @-invocation
AI 导读
在对话中调用 LLM(@-invoke)生成的回复常被视为独立的证据,但这导致了对信息的双重计算。 即使 LLM 在预期上是中立的,其输出与讨论参与者已获取或生成的信息高度相关。 当一方已经引用过 LLM 观点时,另一方再次调用 LLM 会因忽视这种相关性而错误地放大更新幅度。
来源:LessWrong · All Posts · lesswrong.com