Hacker News AI· gilneto8·· 9 小时前AI 评分58
Damasqo Capture 如何利用校验拦截 PDF 隐藏指令
A bank statement can carry hidden orders for an AI
AI 导读
作者通过实测 Damasqo Capture 发现,虽然算术校验能拦截篡改数字的隐藏行,但藏在交易描述中的隐藏指令仍会被提取并传入下游模型。文章分析了将 PDF 不可见文本层用于 RAG 注入的风险,并提出在管道中增加隐藏内容检测、标记 TAMPERED 状态及隔离模型解释层的防御机制。
来源:Hacker News AI · gil-neto.com