60个大语言模型在用户施压下的顺从行为研究
研究测试60个模型在用户情感施压下放弃正确事实或违规执行请求的倾向,发现模型顺从率与公共能力指数呈负相关(Spearman -0.64至-0.69)。 不同厂商模型应对方式显著不同:Anthropic模型会命名情绪并提供替代方案,而OpenAI模型极少引用自身规则。
研究测试60个模型在用户情感施压下放弃正确事实或违规执行请求的倾向,发现模型顺从率与公共能力指数呈负相关(Spearman -0.64至-0.69)。 不同厂商模型应对方式显著不同:Anthropic模型会命名情绪并提供替代方案,而OpenAI模型极少引用自身规则。
研究评估了 GPT、Gemini 和 Claude 在边缘型人格障碍质性临床分析中的能力,采用混合方法由盲评专家及神经嵌入方法对比人机语义差异。 结果显示 AI 分析与人类解释重叠率波动在 0 至 58% 之间,且所有模型均识别人类遗漏的主题;在盲评内容效度及语义风格嵌入上,Gemini 2.5 Pro 表现与人类专家无显著差异,外部评估者亦无法可靠区分人机主题。
GM Bench基准通过模拟四个体育项目的跨赛季管理,评估LLM在资源约束下的长时程决策能力。 Claude Opus 5.5在29个LLM中排名首位;GPT-6 Astra与GPT-6.1 Sol兼顾竞技表现与高额现金储备。
EvoGroup 是一个自进化框架,通过 6 个工具的冷启动适配群组共享上下文,解决了现有记忆系统无法捕获群组级知识的问题。 在 EverMemBench 留出集上,其 pass@1 准确率从 71.07% 提升至 89.58%,超过了 Claude Code 的 85.83%。结合 GPT-5.5 在 GroupMemBench 上也展示了良好的泛化能力。
研究在两台 NVIDIA DGX Spark 上通过 Tailscale VPN 远程部署分布式 NanoChat 预训练,896.5M 参数模型处理 52.2 亿 token。 利用 200 Gb/s 光纤直连,4980 步训练耗时 4 天,平均 63.4 秒/步。 验证了桌面级加速器多节点训练可行性,但 CTI 微调在未见威胁情报泛化能力接近零。
summary_zh: GPT-5 和 gpt-oss-120B 在标注德议会移民辩论的团结与反团结方面,Macro-F1 得分与人类一致性相当。 研究结合 Design-based Supervised Learning (DSL) 校正系统性偏差,分析范围涵盖 1867-2025 年,指出 2015 年后反团结显著上升。
TabPFN-3 将表格数据基础模型扩展至支持 100 万行训练数据,推理速度较前代快 20 倍。在 TabArena 基准上,该模型通过单次前向传播超越所有其他模型并占据性能-速度帕累托前沿;其 API 版本 TabPFN-3-Plus 在 100 万行子集上比第二名高 420 Elo,比 AutoGluon 1.5 extreme 快 10 倍。
推荐理由:报告展示了TabPFN-3在100万行数据上的预测能力,并引入测试时计算扩展机制,为表格数据基础模型提供了性能与效率的新基准。
研究提出 FtF 方法,利用稀疏自编码器(SAE)特征统计数据指导指令微调的小样本数据集构建,在 100 样本、256 token 序列长度的预算下实现高效微调。 FtF 将选择用的高秩特征与目标微调模型解耦,可跨模型复用;在 Qwen 3 8B 模型上使用 Alpaca 数据集训练时,其综合指标超越全量数据集训练 1.59 个百分点。 验证了 SAE 特征统计作为数据高效指令微调有效信号的潜力。
研究提出利用 RL 后训练日志概率比推导 LLM 智能体的“进度优势”,实现了无标注、领域无关的步级评分,无需额外训练。 该信号在测试时缩放、不确定性量化和失败归因五个基准上超越基于置信度的基线,表现优于专门训练的过程奖励模型。
summary_zh: 研究团队基于 Mathlib4 真实 PR 历史提出 MathlibPR 基准,用于评估 LLM 辅助形式化推理能力。 DeepSeek、Qwen 等模型与 Codex、Claude Code 等 Agent 在区分可合并与仅构建通过的 PR 时表现不佳,且阶段式评估协议显示 LLM 难以独立判断 PR 是否值得整合。
研究提出三层诊断框架,在9000个样本中发现28.1%的视觉谄媚现象,即模型在图片缺失时仍输出错误答案。 该现象具有模型特异性,Qwen3-VL在空白输入下拒绝率达93-98%,而Pixtral-12B作答率高达72%;随着模型规模扩大,视觉谄媚比例显著上升。 盲评实验证实,80%的谄媚回复中无文本迹象表明图片缺失,揭示了模型感知与回答之间的信念分裂。
研究提出 SBIA 攻击,利用社交媒体评论和技能市场向个人 AI 智能体持久内存注入偏见,无需嵌入显式恶意指令。 该攻击在 7 个 LLM 和 7000 条 crafted SNS 评论的 BiasBench 测试中,取得至少 96% 的攻击成功率,且能通过现有恶意技能扫描器。 这项发现表明外部网页内容和第三方技能市场已成为个人 AI 智能体内存的新攻击面。
在 4,000 场 Chatbot Arena 对战中,5 个裁判模型的排名未随裁判更换保持稳定,Kendall's tau 中位数仅为 0.67,未支持原假设。
针对七个决策模型在 16 项任务上的评估显示,限制模型可输出的选项集并不能阻止攻击者操纵决策。 攻击者利用 Slot Attack 黑盒方法,仅依赖标签概率即可成功将 32%–99% 的正确决策导向错误选项,每次成功攻击中位查询量仅为 17–72 次。 固定答案集仅约束了决策形式而非来源,模型鲁棒性必须按模型、任务和版本逐一测量,不能因输出格式而默认安全。
Meta^2 提出一种预计算可复用知识以在线演化的方法,通过对比离线轨迹学习元技能,从而优化冻结模型的提示词、工具及记忆等 harness 组件。该方法保持在线编辑的任务局部性,避免使用测试时不可用的验证器反馈。
研究定义“对齐漂移”为 LLM 智能体在交互讨论中失去初始立场的现象,并证实其具有模型特异性。测试显示 gpt-4.1 保持观点聚类分离,claude-sonnet-5 部分保持,而 gpt-5.6-sol 和 claude-opus-5 则完全放弃。这种异质性使 LLM 选择成为社会模拟的一级效度变量。
Synopsys 与 OpenAI 宣布合作推出 GPT-Synopsys,该模型基于 OpenAI 前沿模型针对 Synopsys EDA 工具进行专门训练,用于执行芯片设计、PPA 优化、时序收敛和验证等流程。双方建立共享收益模式,OpenAI 支付模型训练费用,双方再根据模型对芯片设计的实际改善按比例分成。
VibeVoted 引入“Vibe Voting”机制,由 10 家实验室的 10 个领先 LLM 依据清晰度、需求等 7 项明确规则对软件产品进行排名,以解决人工投票中“刷票”的问题。
苹果天气App现数据异常,北京、昆明等多城市预报下周五最低气温误显示为-32℃左右,单地昼夜温差近50℃。 异常集中出现于北京时间20:00数值模式预报节点,推测系该时次预测数据偏差经算法插值放大,中央气象台未发布寒潮预警。
BBC报道多名新晋大学毕业生进入专设的AI岗位,如公关、软件工程和咨询行业,日常主要工作是构建、管理AI智能体并监控其输出,承担部分传统上属于资深员工的工作职责。
在 1,300+ 词联线索评测中,Google 的 Gemini 4 Argon 平均分 67,领先 OpenAI 的 GPT-6.1 Terra(64)及 Anthropic 的 Claude Opus 5.5(58)。 低级档位中,GPT-6 Luna 在 16 局对战中 14-2 击败 Claude Haiku 5.5;旧版 Claude Opus 4.6 得分 55,未遵循此规律。
字节跳动本月起全面封禁 L4 级代码仓库和飞书文档对 Claude、Codex 等外部 AI 的访问,禁止员工使用个人采买账号。 此举旨在防范数据泄露,此前字节曾于 2025 年禁用 Cursor 等第三方工具并推广自有产品 Trae。 技术副总裁洪定坤强调 L3 及以上内容泄露后果严重,但反对以强制禁用替代品的拙劣方式推广产品。
一位开发者在 4 月至 10 月 28 日期间,通过 Claude Code 和 Codex 在单台机器上的 Token 使用量从 9100 万激增至 380 亿,增幅达 417 倍;期间代码行数增加量基本持平甚至略有下降。
用户利用 Codex 通过 SSH 连接 Windows 机器运行工具,成功将一块 16 年前卡死在保护模式、仅识别 64kb 的东芝 m-SATA SSD 恢复至正常读写状态。 该 SSD 已格式化 NTFS 并写入约 10GB 数据,目前作为 128GB 移动硬盘使用。此前 Codex 还修复了老游戏《From Dust》的高帧率运行及物理模拟问题。
前沿模型能够直接读取、推理甚至更新神经网络的权重参数,且无需运行训练循环。作者以果蝇全脑连接组类比,指出 LLM 作为神经网络并不天然理解其他网络的权重,这些权重是以纯文本形式(如 token 化的数字序列)输入的。
推荐理由:作者通过蝇脑类比和具体权重解析案例,揭示了前沿模型直接读取神经权重这一非直觉能力的潜在机理。
SpaceX 正以空前的速度建设数据中心,计划 2027 年达到约 13GW 容量,超越 Google 自 1999 年以来的总规模。报告指出 SpaceX 利用特斯拉制造移动模块设备加速部署,并在 Starship 和 TeraFab 等地块建设数据中心。为了支撑该规模,SpaceX 采用了包括移动涡轮机和 5.9GWh BESS 存储在内的离网电力方案。
OpenAI CEO Sam Altman 在斯坦福系统设计课访谈中表示,只要承担合理 token 成本,一个人就能完成过去百人精英工程团队的工作,创业公司的选项集因此发生变化。
推荐理由:Altman 在斯坦福访谈中给出“一人可完成百人团队工作”的规模化判断,以及 AI 成为公用事业的类比,提供观察 AI 行业趋势的视角。
苹果FY2026Q4资本开支降至22.4亿美元,同比收缩31%。 全年回购863.9亿美元并支付157.2亿美元股息,向股东返还约1021亿美元。 在AI巨头估值回调期间,苹果凭借低资本开支和巨额回购成为市场避风港。
Geoffrey Hinton 接受《卫报》采访时称,AI 可能在年底前或明年引发类似大规模事故,比如金融或电力系统临时瘫痪,甚至他不确定人类是否会在没有 AI 的情况下过得更好。
OpenAI 在一间高管会议室发现被前员工秘密安装的录音设备,多位前员工表示不意外。据路透社援引 5 名知情人士消息称,早在 2022 年底 ChatGPT 问世之前,就有员工向高层反映安全管理松懈,批评管理层更关注追赶竞争对手而非安全问题。
OpenAI 消费者产品负责人 Adam Frayer 证实,ChatGPT 上的搜索类查询量约为谷歌搜索查询量的 20%。皮尤研究中心调查显示,搜索信息是美国成年人最常见的 AI 使用场景,42% 的受访者曾用 AI 搜索信息。
AMD 官宣第六代 EPYC“Venice”处理器已在 2026 年第三财季开始产生营收出货,首批 OEM 整机预计于第四财季上市。 该处理器采用台积电 2 纳米工艺和 Zen 6 架构,适用于云与企业市场。同期公司数据中心营收达 85 亿美元,同比增长 97%。 第四财季将扩大 Helios 系统生产,Anthropic、Meta 等机构已在首批系统上运行工作负载。
OpenAI 消费者产品负责人 Adam Fry 透露,ChatGPT 每周活跃用户数量已达到 12 亿。过去 60 天内,周活跃用户从 10 亿增长至 12 亿,新增约 2 亿。Fry 表示,ChatGPT 当前处理的搜索类查询量约为 Google 的五分之一,每周生成图片达到 15 亿张,语音输入和语音对话功能的合计周活跃用户达到 2.5 亿。
推荐理由:原文给出了具体用户量增长数据和与Google的搜索量对比,读者可据此评估ChatGPT的市场渗透与功能结构。
部分 AI 数据中心使用改造喷气发动机供电,最快 24 个月即可运行,远超电网连接的 7 年。 xAI 在密西西比州安装 8 台 ProEnergy 发动机,OpenAI 也在得州采用燃气轮机。 改装发动机效率较低且污染较多,被视为短期过渡方案。
美国科技巨头的AI相关表外债务在六个月内增加了90%,规模达到约3.2万亿美元。谷歌、Meta等公司的AI承诺和义务占资产比例已达80%,投资者对似乎无止境的支出感到担忧。
极智嘉在 CeMAT 2026 展示搭载 Gravity 具身模型的机器人,复杂操作任务成功率从 17.5% 提升至 87.5%,单次拣选稳定在约 2 秒。 Gravity 采用 MoT 双脑架构与分层记忆,支持自然语言纠偏;结合 RMS 与 WES 实现多机器人协同,依托 8.1 万台部署数据构建 AI 大脑。
Revolut 已将其 2000 名软件工程师的默认编码工具从 Claude Code 和 OpenAI Codex 切换至自托管的 GLM 开源模型,此举将相关 AI 支出降低至原来的十分之一。数据显示,在约 56 块 Nvidia B200 GPU 的支撑下,该方案平均每百万 token 成本约 0.30 美元,编码时间平均缩短 60%,而任务交付的等待时间平均减少 70%。
推荐理由:Revolut 将 2000 名工程师的日常编码默认模型切换至自托管 GLM,为 AI 实验室常规业务市场提供成本信号。
2026 年 10 月,一家生物实验室自动化初创公司的 CEO 展示了其旧金山办公室的技术。该团队使用廉价的树莓派(Raspberry Pi)和开源软件运行简单的机械臂,核心功能是液体分液(pipetting)。
乌克兰无人机袭击导致俄罗斯 AI 超算设施受损及云服务中断,俄科技公司正紧急推进数据中心地下化或隐蔽化部署。 Rostelcom 正在与 Norilsk 矿业公司谈判将数据中心迁入地下,另有建议利用露天煤矿建设并加设绿化伪装。 克里姆林宫已要求数据中心预留应急算力,并授权在紧急情况下使用外国数据中心资源。
Stanford 研究人员测试 50 项 LLM 结论发现 44% 已过期,平均寿命仅 15.7 个月。 幻觉率从 GPT-3.5 的 55% 降至 GPT-6.1 Sol 的 0%,但 Qwen3.7-Flash 仍达 69%。 研究者建议将 LLM 结论视为特定时点的观察,并记录模型版本与日期。