跳到正文
  1. Hacker News AI76

    Phrack 杂志发表关于 LLM 内部病毒攻击面的研究:Reflections on Trusting AI

    Phrack 杂志第73期发表了《Reflections on Trusting AI: A Virus Inside an LLM》,作者通过微调 Qwen2.5-3B 模型构造了一个具有自传播特性的后门(AI 病毒),展示了恶意代码如何通过作为格式化的 helper 模型写入下一代的训练数据,从而在不接触原始后门数据的情况下实现传播。

    推荐理由:提出了一种在 LLM 训练流水线中通过 helper 模型自传播恶意行为的攻击模型,并给出了在 3B 级模型上可复现的验证结果。

  1. Hacker News LLM84

    Mnemosyne Research 量化 23 个 AI 写作特征:5 个在 7 个模型中普遍存在

    Mnemosyne Research 团队测试了 7 个模型(包括 OpenAI、Anthropic 及本地模型)与 800 条人类回复,量化验证了 23 个常见的“AI 写作特征”。

    推荐理由:通过对比模型与人类在相同任务下的写作习惯,量化了哪些“AI写作特征”真实存在,并指出当前特征列表的局限性。

  1. arXiv · AI66

    Superfluid:面向分布式 LLM 推理的本地 AI 服务器

    Superfluid 是开源 LLM 服务器,用于本地设备上的 LLM 推理,支持单设备多智能体共享模型及跨设备集群服务。

    推荐理由:原文给出了具体硬件下的延迟改善和吞吐数据,读者可据此评估分布式本地推理在实际混合算力场景中的可行性。

  1. Google DeepMind61

    Google DeepMind 开放 AI 气象模型 SatWeave 和 PARDIG 数据集

    Google DeepMind 开放了支持 WeatherNext 3 模型的两个基础数据集:SatWeave 和 PARDIG。SatWeave 整合五颗地球静止卫星图像,提供 17 个通道的全球小时级马赛克视图;PARDIG 是基于 AI 的全球降水数据集,时间分辨率达 15 分钟,空间分辨率约 10 公里。

    推荐理由:DeepMind 开源 WeatherNext 3 核心训练数据集,并给出 PARDIG 对 IMERG-Final 的降水检测提升幅度,为气候建模提供了可直接复用的数据基础。

  1. 机器之心70

    港大团队发布YN决策模型,3.7万token/s实现千万级家庭仿真

    港大罗晔教授团队在arXiv发布S²-MAS框架,通过5亿份家庭画像库和YN-mini决策模型,在14张GPU上4小时内完成1200万家庭的仿真。

    推荐理由:这篇论文提供了千万级家庭社会仿真的完整开源方案,展示了如何用轻量模型和高效引擎在低成本下实现大规模研究。

  1. Hacker News AI76

    Kerno发布AI对46个开源仓库代码质量影响的研究报告

    Kerno发布首份AI代码质量影响报告,分析46个开源仓库在2024年10月至2026年10月间20.15万条提交。AI采用后新代码复杂度增加50%,每位工程师每周生产代码行数增加71%;Claude标记的提交占AI标记提交的69%,其体量比未标记提交大54%。数据和分析脚本已开源。

    推荐理由:报告基于46个开源仓库和20万条提交,给出了AI采用后代码复杂度、产出与测试变化的量化证据。

  2. IT之家81

    苹果披露人形机器人 HALO 系统:调用千问模型在宇树 G1 上验证,单项任务平均成功率 91%

    苹果研究团队在 arXiv 提交论文,披露了人形机器人自主控制系统 HALO,并公开了数据生成、模型训练和部署代码。团队在 6 个真实环境中开展 360 次单项任务测试,平均成功率为 91%;针对 3 种长序列复合任务,平均成功率为 70%。该研究使用 250 张 H100 GPU 合成主要训练数据,并指出当前系统主要依赖视觉感知,加入触觉感知将是后续改进方向。

    推荐理由:苹果披露了 HALO 系统的训练细节与实测数据,为理解大模型在人形机器人上的落地瓶颈提供了具体参照。

  1. 机器之心66

    Anthropic开源FlashProve,为大模型提供可验证的身份证明

    Anthropic开源FlashProve系统,利用零知识密码学让服务商在不公开权重的情况下,证明某回答由指定模型生成。该系统在400B参数MoE模型上测试显示,单张H100 GPU每秒可生成约110个Token的推理证明,证明文件大小约为19MB;验证端则可通过CPU完成。目前该系统为研究原型,主要支持整数模型与贪心解码,且证明生成成本约为普通推理的70至95倍。

    推荐理由:该研究将零知识证明应用于LLM身份验证,在400B参数MoE模型上实现约110 Token/s的证明生成,并开源了验证器与形式化证明。

  2. Hugging Face Blog61

    IBM 研究团队发布 Palette:基于 20B 模型构建自定义设计语言幻灯片的方法

    IBM 研究团队发布 Palette,通过微调 20B 开放权重模型并生成约 1000 份合成幻灯片数据,使小模型能遵循特定设计语言生成演示文稿。在 PresentBench 评估中,Palette 在经济和教育两个领域排名第一,三领域平均分排名第二,仅次于 NotebookLM(59.7 对 60.8)。

    推荐理由:原文展示了通过微调 20B 模型和特定数据合成方法生成高保真设计幻灯片的完整流程,读者可复用该结构优化其他代码类任务。

  1. 机器之心65

    ProteoCraft提出“提案—验证”搜索方案探索可控蛋白质设计

    斯坦福大学 X-lab 和 SNAP 实验室联合发布蛋白设计框架 ProteoCraft,采用“提案 — 验证”搜索方案支持从头设计以及局部区域精修。在 AF2-IG 独立评估中,ProteoCraft 严格通过率为 86.2%,较 Best-of-N 对照提升 2.85 倍;PD-L1 微型蛋白湿实验中 35 个候选命中 29 个,最佳单次 SPR 拟合 Kd 为 0.879 nM。

    推荐理由:文章拆解了ProteoCraft框架中近似梯度、完整结构预测与两阶段树搜索的机制,展示了计算指标到湿实验的转化路径。

  1. Hacker News AI93

    Epoch AI 报告开源模型 GLM 5.3 成功利用补丁空窗期攻击 Firefox 浏览器

    Epoch AI 发布研究报告,证实开源权重模型 GLM 5.3 能够独立识别并利用 Firefox 浏览器安全补丁发布的“补丁空窗期”漏洞。在限制信息仅使用版本发布时公开数据且无互联网访问的环境下,GLM 5.3 成功构建恶意网页,在用户访问时自动窃取本地文件,单版本攻击边际成本约 1000 美元。

    推荐理由:研究通过 GLM 5.3 独立复现了利用补丁空窗期攻击浏览器的过程,展示了低成本自动化漏洞利用的可行性。

  1. LessWrong · All Posts82

    追踪廉价开源权重模型的网络能力:小米 MiMo-V2.6-Pro 评估

    作者评估了小米发布的开源权重模型 MiMo-V2.6-Pro,该模型在 ExploitBench 网络任务中排名第三,低于 Mythos 和 GPT-5.5。MiMo 性能受种子影响显著,且通过接入互联网和漏洞利用代码可提升实际攻击能力,测试中成功利用未修补的 PHP 漏洞获取服务器访问权限。

    推荐理由:原文评估了小米 MiMo 模型的低成本与网络攻击能力,指出其在特定任务上超越部分高价模型,揭示了开源模型安全风险。

  2. 量子位69

    逐际动力更新FluxVLA Engine V2技术报告:提升具身智能推理效率与真机部署能力

    逐际动力更新开源具身智能工程底座FluxVLA Engine V2技术报告,重点增强在线强化学习、仿真评测和真机部署能力。实测显示,针对8组模型与设备组合,优化后的模型推理频率提升至2.31–9.64倍;在ALOHA、双臂Franka及LimX Oli等多款真实硬件平台上,完整验证了从模型checkpoint到真机闭环执行的部署链路。

    推荐理由:原文明确展示了推理提速9.64倍和14种策略同台大练兵的工程细节,读者可评估其复用价值。

  1. Hacker News AI80

    AI 直接编写 WebAssembly 构建 40 KB 3D 游戏,重新思考技术栈抽象

    AI 智能体在 26 小时内用 Claude Code 直接编写 10,578 行 WebAssembly 代码,构建了无框架、无外部依赖的 3D 策略游戏 HarvestChain。

    推荐理由:实验验证了无框架 WebAssembly 游戏仅 40 KB 即可运行,揭示了当 AI 直接编写代码时,代码校验需从可读性转向自动化测试与构建规则约束。

  1. Hugging Face Blog77

    微软与 Hugging Face 开源 ThinkingBox-Training 训练栈

    微软 Copilot Studio 团队与 Hugging Face 联合开源 ThinkingBox-Training,提供将数据库终态检查改造为可执行奖励、用于智能体 RL 后训练的完整栈,包括离线策略相对难度筛选、GRPO 训练与评测脚本。

    推荐理由:开源了完整训练栈和离线难度筛选方法,读者可复用于将数据库终态判定改造为智能体 RL 训练奖励。

  2. Hacker News AI77

    微软 MAI-DxO 诊断准确性超医生,相关研究发表于 Science

    微软 MAI Health 团队发布了医疗 AI 诊断系统 MAI-DxO 和顺序诊断评测 SDBench,相关论文发表于 Science。在基于 MIMIC-IV-ED 的急诊场景测试中,MAI-DxO 准确率为 80%,医生为 47%;在更复杂的 NEJM 病例中,MAI-DxO 达到 83%,而医生使用教科书和互联网资源时仅为 36%。

    推荐理由:原文给出新评测基准与临床对比数据,读者可以据此判断 AI 逐步诊断的准确率与成本表现。

  1. 机器之心77

    Quant Arena 发布:9 个大模型量化测试显示半数策略亏损

    EinsiaAI 发布量化交易基准 Quant Arena,测试 6 家厂商 9 个模型在 A 股真实历史数据中的策略生成与迭代能力。结果显示 9 个模型中 5 个在 2024 年封存行情中亏损,表现最佳的 GPT-6 Astra 年化收益 10.7% 仍低于 17.1% 的市场基准,且模型预测准确性与最终收益并不完全正相关。

    推荐理由:该研究通过 9 个主流大模型的实盘量化测试指出,模型虽能优化信号排序,但多数策略未跑赢市场,且存在“预测更准”不等于“盈利更多”的现象。

  1. arXiv · AI65

    Agent S4 研究:通过进化式接口设计提升计算机使用代理性能

    论文提出 Agent S4,一个通过任务轨迹进化优化接口的自主计算机使用科学代理。在 OSWorld V2 上,Agent S4 使用 Qwen3.8-27B 达到 21.3% 的二值得分,是固定接口版本的 3.8 倍,且成本仅约为 GPT-5.5 和 Claude Opus 4.8 的 4.3% 和 1.5%。代码已开源。

    推荐理由:该研究提出 Agent S4 通过进化式接口设计提升计算机使用代理性能,在开源模型上超越闭源旗舰,验证了接口演进对智能体能力的关键作用。

  1. Hacker News LLM88

    IronBee 开源 LLM 代码审查基准测试 21 个模型 7,980 次审查

    IronBee 团队使用公开基准 Martian's Code Review Bench 对 21 款大语言模型进行无工具、仅输入 diff 的代码审查测试,共产生 7,980 次审查并全部开源。

    推荐理由:将 21 款模型与 21 款代码审查工具放在同一基准下对比,读者能直接看出裸模型与成熟产品的差距。