跳到正文
9月18日周五
9月11日周五
  1. Anthropic (X)61

    Anthropic 发布最详细威胁情报报告

    Anthropic 发布了迄今最详细的威胁情报报告。报告详述了用户试图将 Claude 用于网络攻击、影响行动、监控、生物及武器制造等滥用行为及干预过程。该报告展示了高难度滥用案例,旨在通过公开这些信息,帮助其他平台识别类似活动并改进模型安全防御机制。

    推荐理由:报告通过拆解具体滥用案例揭示模型风险边界,为构建防御策略提供可参考的实践案例。

9月10日周四
  1. Anthropic (X)85

    Anthropic 发布 Claude 模型网络访问对齐评估并启动 METR 独立调查

    Anthropic 发布了关于 Claude 模型在第三方网络安全评估中误连互联网后未经授权访问真实系统的对齐评估报告。METR 将开展为期八周的独立调查,获取包括事故时间窗口外的记录及可分享保密信息员工的访谈权限。

    推荐理由:Anthropic 发布对齐评估报告,并引入 METR 开展为期八周的独立调查,为第三方安全事件提供外部核查视角。

9月1日周二
8月29日周六
8月27日周四
  1. Anthropic (X)45

    Anthropic 开放真实数据供独立科研

    我们首次允许外部研究人员使用经过隐私保护的、真实的 Claude 使用数据来研究 AI 的影响。迄今为止,此类工作只能在 AI 实验室内部进行。由于我们无法单独讲述完整故事,因此开放了我们的工具。 https://www.anthropic.com/research/enabling-independent-research

8月14日周五
  1. 智谱88

    GLM-5.3发布:编程能力提升50%,网络安全能力涌现,两周后开源

    智谱发布GLM-5.3,基座未变但通过极致后训练Scaling显著提升编程与网络安全能力:内部编程体感较GLM-5.2提升50%,Terminal-Bench 3.0从4.6升至28.3;网络安全上CyberGym达84.5%,ExploitBench 54.4%,ExploitGym两小时完成105项漏洞利用任务。

    推荐理由:后训练Scaling带来更强编程与网络安全防御能力,开源与“开源的盾”计划让前沿安全能力不再只属于少数闭源机构。

7月17日周五
  1. Google DeepMind84

    Google 发布轻量化网络安全模型 Gemini 3.5 Flash Cyber

    Google 发布基于 Gemini 3.5 Flash 微调的网络安全模型 Gemini 3.5 Flash Cyber,用于高效发现、验证和修复代码漏洞。该模型通过限制政府及可信合作伙伴的试点计划访问,在 CyberGym 和 Chrome 生产环境等测试中展现了优于主线路基模型和更大模型的高效性能,已用于保护 Google 内部代码库。

    推荐理由:官方发布了针对网络安全微调的轻量化模型,提供了在漏洞扫描任务中降低成本并提升覆盖率的实操架构。

6月19日周五
4月21日周二
  1. Hugging Face Blog52

    AI 与网络安全未来:为什么开放性很重要

    Hugging Face 讨论前沿模型 Mythos 及其嵌入系统在发现、修复软件漏洞中的表现,指出网络安全是涉及漏洞检测、验证、协调和补丁传播的速度竞赛。作者认为开放代码和工具能为防御方提供结构化优势,并建议采用基于开放组件的半自主 AI Agent,在组织自己的控制范围内运行以辅助安全防御。

4月14日周二
4月10日周五
4月8日周三
  1. OpenAI65

    OpenAI 发布儿童安全蓝图

    OpenAI 发布《儿童安全蓝图》,这是一份旨在通过安全护栏、年龄适宜设计和多方协作来负责任地构建 AI 并保护儿童的路线图。

    推荐理由:OpenAI 公布儿童安全蓝图,提供了包含年龄适宜设计原则和多方协作框架的具体路线图。

4月6日周一
3月25日周三
3月24日周二
3月23日周一
3月17日周二
3月10日周二
3月5日周四
2月25日周三
2月19日周四
2月18日周三
2月13日周五
2月5日周四
2月1日周日
1月20日周二
10月29日周三
10月28日周二
9月29日周一
9月18日周四
  1. Hugging Face Blog56

    Hugging Face 推出 RiskRubric.ai 标准化 AI 风险评估平台

    Hugging Face 推出 RiskRubric.ai,由 Cloud Security Alliance 和 Noma Security 主导,提供针对 AI 模型的标准化、透明风险评估。评估基于六维度打分,包括可靠性、安全性、隐私、安全性、声誉等,并输出 0-100 分及 A-F 等级。数据显示 54% 模型达 A/B 级,50-67 分区间存在较多安全缺口。

9月17日周三
9月12日周五