LessWrong · All Posts· Igor Maljkovic·· 3 小时前AI 评分32
ICLR 2026 论文 HyPE 利用双曲几何检测有害提示词
Detecting harmful prompts through hyperbolic geometry
AI 导读
ICLR 2026 论文介绍轻量级双曲几何检测器 HyPE，通过仅学习安全提示词特征来识别 NSFW 及有害提示，且在对抗攻击下表现强劲。 该方法利用双曲几何表示文本提示层级结构，并提出配套工具 HyPS 自动替换有害词汇，在保留语义安全性的同时降低误报率。
来源：LessWrong · All Posts · lesswrong.com