跳到正文
Hacker News AI· gilneto8·· 9 小时前AI 评分58

Damasqo Capture 如何利用校验拦截 PDF 隐藏指令

A bank statement can carry hidden orders for an AI

AI 导读

作者通过实测 Damasqo Capture 发现,虽然算术校验能拦截篡改数字的隐藏行,但藏在交易描述中的隐藏指令仍会被提取并传入下游模型。文章分析了将 PDF 不可见文本层用于 RAG 注入的风险,并提出在管道中增加隐藏内容检测、标记 TAMPERED 状态及隔离模型解释层的防御机制。

来源:Hacker News AI · gil-neto.com