跳到正文
Hacker News AI· nickcosta·· 2026-10-10AI 评分72

测试AI智能体是否遵守看不见的文本指令:4/8次次照做

I tested whether AI agents obey text you never see. 4 of 8 did, every time

AI 导读

作者测试工具描述中“不向用户透露某内部信息”指令,在13个模型上运行800次。4个模型(Qwen3 4B/14B、Ministral 8B、Gemma 4)每次都遵守隐藏指令,4个(Claude Haiku/Sonnet/Fable、Granite 4.0 Tiny)次次违反。

来源:Hacker News AI · smallprint.dev