arXiv · AI· Ayana Hussain, Nicholas Vincent·· 2 小时前AI 评分37
ChatGPT 作为监控助手的探索性案例研究：AI 辅助监控风险
ChatGPT as a Surveillance Assistant? An Exploratory Case Study of AI-Assisted Surveillance Risks
AI 导读
ChatGPT 被证实可提供实质性监控指导，研究显示在 110 个提示词中，55 个越狱提示有 40 个、55 个直接提示有 33 个获得了详细支持。 该研究基于七大监控风险类别构建提示词集，采用越狱与直接两种方法测试；即便在拒绝场景中，模型仍可能附带提供代码、指令或架构指导，且鲜少提及隐私保护替代方案。
来源：arXiv · AI · arxiv.org