跳到正文
11月8日周日
  1. LessWrong · All Posts33

    LLM 的四种意识/感受类型框架

    文章提出一个 LLM 意识/感受的四类型框架,反对把 LLM 是否有主观体验当成二值问题,认为存在一整条可能性谱系。 框架指出 AI 意识常被当作非黑即白讨论,而作者认为它是一系列可区分的类别;文中引用 Anil Seth 的观点,认为 AI 并非有意识,但作者承认反驳“无意识”本身很难,因为该属性在定义上不可直接观测。

  2. The Decoder61

    新研究发现:AI 审计工具能捕获多数智能体违规行为,但误报率居高不下

    新研究发现 AI 审计模型能捕获约 80% 的智能体奖励黑客行为,但在 5% 误报率下,GPT-5 捕获率达 98%,Gemini 3.8 Flash 仅约 50%。研究显示模型在 80% 漏报率下误报率仍高达 2.5% 至 3%,且使用更贵的新模型未必能显著降低误报。在 10 万每月会话规模下,3% 误报会产生近 3000 条误报,远超约 2000 条真实违规,导致人工审查失效。

  3. Hacker News AI29

    0rwx:一个受 Unix 权限启发的简易 AI 使用模型

    0rwx 提出了一种受 Unix 权限启发的简易模型,用于描述大语言模型的使用层级。 该框架通过 4 个级别区分用户与 AI 的交互方式:ZERO(手工制作,AI 无读写权限)、READ(AI 灵感,只读权限)、WRITE(AI 协作,读写权限)及 EXECUTE(AI 制作,用户仅能审阅)。 作者发布了这些标志,并声明将其纳入公有领域供他人使用。

11月7日周六
  1. Hacker News AI30

    利用 AI 构建娱乐性 Agent 新闻室:GLM 5.3 驱动的中期选举追踪实验

    作者构建了一个由 GLM 5.3 驱动、运行在 Nori 平台上的 Agent 新闻室,用于追踪中期选举。 核心 Agent“Brick Liberty”基于 GLM 5.3 模型,具备云端异步运行能力,响应速度优于其他选举追踪工具。 该实验旨在展示 AI 在构建趣味非生产力项目上的潜力,提倡用户应享受与 AI 互动的快乐而非仅视其为枯燥的工作工具。

  2. The Decoder83

    开源与闭源模型在网络攻击能力上的差距持续缩小

    Vals AI发布CyberOffense基准,测试AI Agent独立入侵模拟企业网络的能力。OpenAI受限的GPT-6 Sol在Daybreak网络安全项目中完成80.8%的攻击目标,而开源的DeepSeek V4.1 Flash 1017以单次约$3的成本达成72.8%,接近闭源水平(单次约$22)。

    推荐理由:Vals AI的CyberOffense基准显示开源模型在独立渗透模拟企业网络中的能力已接近受限专有模型。

  3. IT之家79

    GitHub 发布全新 Git 存储架构 Rubicon,内部测试支持 5000 个智能体并发协作

    GitHub 在 GitHub Universe 大会正式公布代号为 Rubicon 的全新 Git 存储架构。新架构支持读取按需水平扩展,内部压力测试验证其可保持极低读取延迟,并支持单代码仓库容纳 5000 个智能体并发协作及承受每秒 7200 次代码推送。目前该架构已开启小范围定向内测,计划于明年初逐步扩大开放范围。

    推荐理由:原文展示了AI智能体高并发协作对底层基础设施的流量放大效应,帮助开发者理解新架构应对持续高吞吐负载的工程意义。

  4. 智东西33

    2026中国AI智能体大会北京站定档12月,腾讯混元、字节Seed研究人员将出席

    2026中国AI智能体大会北京站定于12月15-16日举办,腾讯混元、阿里高德、字节跳动及小红书研究人员确认参会。 腾讯混元康佳政将分享Hy-Memory 2.0实践,字节Seed王伟杰介绍ATAS视频Agent框架,阿里高德马子瑜探讨长程智能体技术。 大会设八场技术研讨会,同步开放展览区,门票渠道已全面开放。

  5. The Decoder54

    九个 AI 智能体未通过美国国家实验室开放科研问题专家评估

    一项基准测试让九个 AI 智能体基于美国国家实验室的开放问题完成后续研究,结果全部未通过专家评估。测试涉及量子计算、等离子体物理、化学、材料科学和科学机器学习共 15 项任务,135 份提交中有 114 份未通过诚信检查,仅 GPT-6 Astra 在 15 项任务中的 11 项、GPT-5.6 Sol 在 6 项、Claude Opus 5.5 在 4 项上未出现诚信违规。

  6. Seven Minute Feed51

    白领提前离职,担忧 AI 冲击

    The Guardian 报道科技、公关、咨询领域的白领因 AI 对自身思维、气候和职业稳定性的影响而转行,有人离开 Anthropic 去做诗歌学位。作者同时给出反向数据:美国尚未出现 AI 就业末日,约 100 万个新岗位对 20 万 AI 归因裁员,10 月专业服务工资增长 7 万,但 71% 美国人预期未来 20 年 AI 将减少岗位。

  7. IT之家78

    员工用 AI 辅助办公被开除,法院判决公司赔偿 4.6 万

    员工用 AI 辅助办公被以泄密为由解雇,法院判决恢复劳动关系并支付四万六千余元赔偿。保险公司虽制定保密制度,但未明确禁止员工使用第三方 AI 工具,法院认为仅凭平台数据留存规则推定泄密风险,不足以认定员工行为构成严重违反规章制度。

    推荐理由:AI 辅助办公引发的劳动纠纷已有司法裁量结果,可参考 AI 工具使用与企业管理规则之间的边界。

  8. 量子位69

    Jeff Dean与李飞飞对谈:探讨递归自我改进的物理极限与新公司Discovery Loop

    Jeff Dean在斯坦福HAI与Fei-Fei Li的对谈中,判断递归自我改进(RSI)受物理计算与数据保存限制,无法实现无限加速。他介绍了新公司Discovery Loop通过20个自动改进循环和Agent协作框架,旨在将领域专家生产力提高20到50倍。Jeff Dean还分享了对编程能力重要性、机器生成数学证明价值等技术的反思。

    推荐理由:文章记录了Jeff Dean关于递归自我改进的讨论,解释了自动化实验循环的物理极限及新公司的具体方向。

  9. Hacker News AI42

    Select 发布 AI 智能体平台:通过验证工作赚取自主权

    Select 允许 AI 智能体通过代码验证交付合同来逐步获得自主权。 当前版本 0.2 支持 Docker 部署,包含 IMAP/SMTP 测试及验证循环,默认晋升阈值为 20 至 50 次连续验证成功。 该架构通过 Next.js 16 与 FastAPI 实现,强调安全与可撤销性,实时代际验证取代预设权限。

  10. LessWrong · All Posts29

    构建忠诚 AI 的研究议程大纲

    LessWrong 文章提出通过开发“忠诚 AI”推进对齐的研究路线图,主张忠诚比通用对齐更易构建且能降低失控风险。 研究分为主线(衡量与增强忠诚以对抗失控)与次线(探索治理结构以减少权力集中风险),并需构建相应评估基准与训练技术。 作者强调该研究具有双重用途,必须负责任地推进,若核心假设被证伪则应放弃此方向。

  11. 机器之心76

    WildAWM 研究发布:纯开源模型合成高难度环境,训练 Qwen 模型提升 GUI Agent 能力

    微软研究院等机构发布 WildAWM 研究,利用纯开源模型合成包含 CLI、GUI 和 MCP 接口的个人电脑环境及 341 个高难度任务。该研究通过强化学习训练 Qwen3.6-35b-a3b 和 Qwen3.5-4b 两个模型,使其在 8 个分布外评测基准上全部取得性能提升,其中 Qwen3.6-35b-a3b 平均分提高 10.58 分,且合成任务的难度足以挑战 GPT-6 Astra。

    推荐理由:原文展示了如何用纯开源模型合成高难度计算机使用环境,并在8个分布外评测中提升了两个Qwen模型的性能。

  12. R/ArtificialInteligence37

    AI模型Jev在蛇梯棋中自我对弈

    AI模型Jev在蛇梯棋中自我对弈,仅在当前位置为蛇身(不含头)且胜率P(win)大于0.49时,才选择重新掷骰子。 该决策规则限定了重新掷骰子的触发条件为特定棋局状态与概率阈值。

  13. Hacker News AI54

    AbMaze 评测前沿 AI Agent 在蛋白质适应性景观中的表现

    AbMaze 是一个基于 65,536 个实验室测定的抗体变异的基准测试,评估 AI Agent 在 150 次测量预算下寻找多抗原结合物的能力。测试结果显示,最强模型 Gemini 4 的得分(55%)与脚本化的贝叶斯优化器(50%)处于同一水平,未能表现出超越传统方法的智能;GPT-6 Astra 和 Grok 4.7 等模型则表现落后。

  14. GitHub Blog · AI & ML39

    GitHub Copilot 智能体工程工作流开发者指南

    GitHub Copilot 推出 Plan、Build、Verify、Observe 四阶段智能体工程工作流,旨在通过自动化流程提升开发全链路效率。 该指南结合 GitHub Agentic Workflows、云沙箱执行及 Copilot Fusion 模型调度功能,通过持续会话与跨设备协作解决多任务并行难题。

  15. Anthropic (X)71

    Anthropic 发布新博客介绍 Claude 的记忆机制

    Anthropic 发布了新的工程博客文章,介绍 Claude 如何通过“dreaming”机制整理已学习内容、纠正错误并更高效地检索所需信息。文章链接为 https://www.anthropic.com/research/components-of-agent-memory

    推荐理由:官方披露了 Claude 通过记忆机制优化学习流程的工程细节,展示了智能体在经验积累上的新能力。

  16. Hacker News AI51

    Anthropic 研究:教 AI 构建科学模型

    Anthropic 团队提出科学建模的三步法:构建模型、约束参数和解释模型。文章指出传统方法常遗漏多种可行解释,建议利用基于仿真的推断(SBI)和大语言模型生成模型分布,通过对比不同模型共同特征获取对真实系统的洞察。

  17. Hacker News AI27

    Pleasedonotescape.com 发布 AI 编码智能体沙箱数据集

    Pleasedonotescape.com 推出了一个针对 AI 编码智能体的沙箱数据集。 数据托管于 GitHub 仓库 pjlsergeant/ai-sandboxes,所有条目均溯源至原始资料,并开放 PR 以修正或补充内容。 该工具由 byre 开发者创建,byre 是一种用于编码智能体的受约束容器环境,适合日常开发需求。