跳到正文
R/ArtificialInteligence· /u/usefulwrong·· 3 天前AI 评分35

AI agent 是否可通过操作不良信息制造虚假证据

Can an AI agent manufacture evidence simply by acting on bad information?

AI 导读

AI agent 可通过操作不良信息制造非幻觉的真实记录,后续 agent 易误将这些行动产生的记录视为原始声明的确认。 该风险使多 agent 系统需区分信息源头与行动记录来源,单纯追踪复制源无法捕获此类问题。

来源:R/ArtificialInteligence · reddit.com