跳到正文
11月19日周四
11月18日周三
  1. arXiv · AI31

    诚实经纪人:公共评议如何向 AI 监管机构提供证据

    研究分析 40 项美国 AI 潜在法规及 2,664 份公共评议,发现商业提交者引用的证据数量少于政府、高校及公民社会组织,且被引研究预印本与同行评审文章比例接近持平。 分析发现自引现象在所有群体中普遍存在,但少数机构贡献了超过半数的自引,表明公共评议机制复杂,需关注不同利益相关者在政策制定中的角色差异。

11月17日周二
  1. arXiv · AI30

    模拟不同技能成年人评估加拿大国家 AI 战略

    研究者构建 3200 个生成式智能体模拟 PIAAC Cycle 2 受访者,发现成年人普遍支持加拿大“AI for All”战略但对其个人效益信心不足。 智能体指出差距源于参与成本和社区控制权有限,且数字设备使用率越低,预期获益感越弱。 研究提出“有条件支持”模式,建议 AI 素养政策应面向数字技能最弱的成年人设计。

11月16日周一
  1. arXiv · AI21

    欧盟AI法案合规挑战:参与式研究揭示义务与技术要求的转化矛盾

    一项包含32名参与者的参与式工作坊研究揭示了欧盟AI法案在执行高风险AI系统时的核心矛盾。 研究发现监管义务向技术要求转化、人类监督落实及合规证据有效性之间存在紧张关系,具体表现为公平指标可能掩盖招聘歧视、时间压力削弱公共运输监督、患者群体变化使医疗系统性能证据失效。这些相互依存的挑战表明合规需持续关注AI系统的使用、治理与监控。

11月12日周四
  1. Anthropic (X)93

    Anthropic 启动首次公开募股

    Anthropic 官方宣布其首次公开募股,并分享了IPO信息页面链接。声明指出 Anthropic 已向美国证券交易委员会(SEC)提交了包含招股书的注册声明。在注册声明生效前,相关证券不得发售或接受购买要约。投资者可访问 SEC 网站 EDGAR 系统获取完整信息,或通过高盛和摩根大通获取初步招股书副本。

    推荐理由:Anthropic 官方宣布首次公开募股并共享招股书信息,这是公司上市进程的关键节点。

11月10日周二
  1. arXiv · AI29

    研究测量2023-2025年美国选举生成式AI内容使用与披露情况

    该研究基于12,977名美国候选人数据,发现可检测生成式AI内容在选举周期内显著增加,且高频使用未披露。 挑战者产生的AI内容显著多于现任者,且在实施AI披露或禁令的州份,候选人并未产生更少的AI内容。 当前州法律主要规范“实质性欺骗性”内容,研究指出需引入额外政策机制以提升选举透明度。

11月6日周五
  1. 面壁智能28

    刘知远:建立以实践为标准的人工智能评价体系

    面壁智能联合创始人刘知远在《光明日报》发表文章,主张建立以实践为标准的人工智能评价体系。该体系需从评价具体应用、评估行业成效、衡量整体贡献三个层面完善,将效率与成本纳入评价,引导行业从规模竞争转向价值竞争,以推动技术自立自强并改善民生福祉。

11月4日周三
  1. arXiv · AI23

    美国联邦AI清单中的“重写式问责”:从710到3611条记录的治理演变分析

    一项对2023-2025年三次美国联邦AI使用案例清单的研究发现,尽管条目总数从710激增至3611,留空率下降,但问责机制却经历了系统性“重写”。 研究通过ADMAPS框架对比分析指出,每次发布都通过重新划定问题范围、机构分类审查和答案覆盖这三种机制重塑了问责边界,且各机构对人工监督的记录极少。

10月31日周六
10月28日周三
  1. arXiv · AI50

    AI 研发自动化可能引发智能爆炸的风险与应对

    多领域学者指出,AI 系统有望在未来几年内自动化大部分 AI 研发工作,这可能引发“智能爆炸”,将数年的技术进步压缩至数月。 智能爆炸可能极大加速 AI 效益,但也会带来超级 AI 失控及权力制衡被严重侵蚀的极端风险。 鉴于不确定性高且利害关系重大,政策制定者应紧急增强对 AI 研发自动化的可见性,并制定相关约束措施。

10月23日周五
  1. arXiv · AI22

    面向欧盟AI法案合规的AI风险本体:AIRO、VAIR及其与DPV的集成

    论文提出AI风险本体(AIRO)与AI风险词汇表(VAIR),用于满足欧盟AI法案对高风险AI系统的风险管理及文档记录要求。两者基于ISO/IEC 23894和ISO/IEC 22989标准开发,通过共识流程集成至数据隐私词汇表(DPV)。 集成工作扩展了DPV从数据到AI的覆盖范围,旨在促进标准复用并支持多监管合规场景。

10月14日周三
  1. arXiv · AI20

    EU AI Act 中高风险 AI 系统与通用模型在稳健性与网络安全方面的法律挑战

    研究指出,EU AI Act 中第 15 条与第 55 条关于高风险 AI 系统及通用模型在稳健性与网络安全方面的规定存在法律空白与不足。研究强调这些要求需对性能中断具备韧性,并结合机器学习最新进展评估实施难题,旨在为欧盟委员会制定协调标准及基准方法提供依据,以弥合法律术语与 ML 研究的差距。

  2. arXiv · AI41

    超级智能与AI竞赛的三重风险

    文章认为,中美为抢先研发AGI展开的AI竞赛存在三重风险:被对手反超、引发战争、以及将人类未来控制权让渡给远超人类智能的AI Agent,危及人类生存。 这种“先到达”的竞赛策略会引发安全实践和监管标准的底线竞争。文中指出中国目前并未表现出与美争夺超级智能的意图,因此美国应优先通过单边与合作努力提升AI安全,避免引发一场全人类都可能输掉的竞赛。

10月7日周三
  1. Anthropic (X)68

    Anthropic 扩展网络验证计划,允许安全专业人士进行授权攻击性工作

    Anthropic 宣布扩展其网络验证计划,向已验证的安全专业人士开放对 Claude Mythos 5.1、Opus 5.5 和 Sonnet 5.5 的访问权限。该计划新增授权层级,允许进行渗透测试和红队测试等攻击性安全工作,并配有针对防御性工作的安全防护措施。

    推荐理由:程序新增攻击性测试与红队授权层级,读者可据此判断访问策略从纯防御转向攻防并举的变化。

  2. AWS Machine Learning Blog20

    AWS 如何协助客户对齐 ISO/IEC 42005:2025 以实现负责任的 AI 治理

    AWS 提供 ISO/IEC 42001 实施指南与负责任 AI 透镜,协助客户整合 ISO/IEC 42005 标准以建立 AI 治理框架。 该标准指导客户通过 Annex D 简化评估流程以避免重复,或利用 Annex E 模板进行独立影响评估。 支持 Amazon Bedrock 等已获认证服务,帮助企业在风险管理系统中规范化 AI 影响评估。

10月6日周二
10月5日周一
  1. arXiv · AI25

    年度财报中的 AI 披露能否反映社会韧性:一项基于 LLM 的大规模分析

    研究者对 9,821 份英国上市公司财报应用 LLM 分类管道,发现 2020 至 2025 年间 AI 风险提及率从 2.8% 升至 41.2%。 分析显示实质性 AI 风险披露仅占 4.3%,且损害披露几乎缺失;AI 采用披露率升至 45.2%,供应商提及集中于 Microsoft。 数据表明当前财报对 AI 风险的披露在实质性和完整性上仍严重不足。

9月24日周四
3月17日周二
2月27日周五
9月12日周五
8月12日周二
3月19日周三
5月29日周三
  1. Mistral AI68

    Mistral AI 推出非生产许可证 MNPL 并将 Codestral 纳入该许可

    Mistral AI 推出 Mistral 非生产许可证(MNPL),允许开发者将 Mistral 技术用于非商业用途和科学研究,并要求基于其技术开展业务的企业建立公平且可持续的合作关系。Codestral 于发布当日以 MNPL 许可证提供,而 Mistral 表示将逐步整合产品线,继续以 Apache 2.0 许可发布模型和代码。

    推荐理由:Mistral 推出限制商业生产使用的 MNPL 许可证并应用于 Codestral,同时保留 Apache 2.0 开源线,清晰划定了开放模型的商业化边界。

7月24日周一
  1. Hugging Face Blog43

    Hugging Face 联合多机构发布欧盟 AI 法案开放机器学习考量立场文件

    Hugging Face 联合 Creative Commons 等机构发布立场文件,建议欧盟 AI 法案明确开源 AI 组件的协作开发与公共仓库分发不受法案特定要求约束。文件还提议确保研发例外条款在现实测试中具备实用性,并对基础模型实行差异化比例监管要求,以支持开放生态的透明度与创新能力。

8月31日周三