AI for Epistemics and Coordination 领域现状综述
本文综述了“AI for Epistemics and Coordination”这一新兴领域，旨在利用 AI 帮助人们形成更好的信念、做出明智决策并有效协调。该领域相对于其重要性而言发展不足，而早期产品和标准可能塑造用户对 AI 的期望及 Agent 协调方式，因此不能仅依赖现有商业和机构激励来推动这些工具的构建，需尽早建立评估规范与基础设施。
#安全/对齐
#安全/对齐
今日 1 条LessWrong · All PostsAI 评分3131
Hugging Face BlogAI 评分4040 MosaicLeaks 基准测试揭示深研智能体隐私泄露风险
Hugging Face 提出 MosaicLeaks 基准，评测深研智能体在处理混合本地与网页信息时的隐私泄露风险。测试显示常规训练加剧了信息泄露，而新提出的 PA-DR 强化学习方法将严格链成功率从 48.7% 提升至 58.7%，同时将答案/全信息泄露率从 34.0% 降至 9.9%。