跳到正文
11月19日周四
11月18日周三
  1. arXiv · NLP41

    研究揭示 4-bit 量化对聊天模型安全行为的影响取决于特定舍入误差

    预注册研究显示,4-bit 量化导致 Qwen2.5-3B 和 Llama-3.2-3B 的拒答行为出现相反偏移,且该变化取决于特定舍入误差而非比特数或似然。 Llama-3.2-3B 在越狱攻击下的顺从率降低 10.3 分,其半幅误差下顺从率仍降 5.8 分,而随机或高斯扰动平均影响接近零。 每个量化构建必须与其原始版本对比,因为 4-bit 量化下的拒答行为无法由通用指标预测。

  2. arXiv · AI32

    LLM 数字孪生中激活导向能否替代基于提示的情感启动?

    基于 Llama-3.1-8B-Instruct 在 100 个人设上的实验表明,激活导向并非总是能替代提示词进行情感启动,其有效性取决于具体测量指标。 注入路径在感恩领域(beta ~ 2.7)可匹配真实提示效果,但会导致失控领域远端指标非对称偏移;且省略写作任务本身即会改变近端测量结果。 该研究揭示了情感诱导方式互换时的效度边界,提示不同操作化路径需分别验证有效性。

11月17日周二
  1. arXiv · AI34

    Meta 提出 SMT 模板驱动机器学习的标准化以优化大模型集群

    Meta 提出标准模型模板(SMT)框架,通过组合标准化组件简化推荐系统中的模型构建。 SMT 将技术传播复杂度从 O(n·k) 降至 O(n+k),经五个全球开发周期验证,平均交叉熵提升 0.77%,在线指标累计提升 1.52%。 该方案使单模型迭代工程时间减少 92%,技术-模型对采用吞吐量提升 6.3 倍。

  2. arXiv · AI23

    Meta CLEAR 系统通过可编辑自然语言兴趣层实现透明可控的个性化推荐

    Meta 部署的 CLEAR 推荐架构将用户偏好转化为可检查、可修改的自然语言兴趣层,取代不可见的向量表示。 用户评价约 88.5% 的显示兴趣准确;离线测试中 3B 专用生成器 F1@10 达 0.3967,优于 Gemini 2.5 Pro。 该系统已在 Instagram 和 Facebook 运行超一年,支持用户对推荐兴趣进行纠正和引导。

11月16日周一
11月13日周五
  1. arXiv · NLP38

    大语言模型在疼痛管理中的种族与性别偏见:对 GPT、Claude、Gemini、Llama、DeepSeek 和 Qwen 的反事实审计

    对 GPT、Claude、Gemini 等 17 个模型的 1,386 次对比未检测到疼痛管理中的显著种族或性别偏见。 研究采用 6 个急性疼痛案例和 50 个临床 Q-Pain 案例进行反事实审计,结果显示所有疼痛严重程度差异在 0-10 分制内小于 1 分,且模型间及设置间的差异远大于患者间的差异。

11月11日周三
  1. arXiv · AI34

    大语言模型中道德基础的机制追踪

    研究人员利用道德基础理论分析14个基于7B至70B参数的Llama、Qwen2.5、Mistral等模型,发现模型内部的道德几何结构在预训练中自然涌现。 借助稀疏自编码器(SAE)识别特定特征并进行因果干预,证实了内部表示与道德输出间的因果联系,表明多元道德结构可从语言统计规律中浮现。

11月10日周二
  1. arXiv · AI34

    AnchorQ:基于流反转动作锚点的样本高效强化学习策略

    研究提出AnchorQ方法,通过流反转将参考行为映射为状态条件潜在锚点,实现粗到细的策略改进。该方法在具有挑战性的任务中提取学习信号,分析表明锚点降低了识别复杂度。 在模拟和真实世界操作任务中,AnchorQ在样本效率上优于现有基线,真实世界成功率提升37%,模拟任务吞吐量提高97%。

  2. arXiv · ML35

    拒绝行为的几何结构:事后安全训练的脆弱性与预训练期持久性的分析

    跨5个模型族的几何分析表明,RLHF和DPO等事后安全训练仅形成“薄而尖锐”的抑制门控,未消除潜在能力。 具体数据显示,在Qwen-2.5-7B-Instruct和Llama-3-8B-Instruct上,100个良性微调样本即可将AdvBench拒绝率降低35至38个百分点。 相比之下,预训练阶段的安全协同训练可使410M至6.9B模型的拒绝率维持在87%至98%区间。

  3. arXiv · ML23

    迭代 RLHF 中对齐崩溃的解释与预防

    研究指出迭代 RLHF 因忽略策略对奖励模型(RM)更新的影响项,导致策略利用 RM 盲区引发对齐崩溃。 论文基于 Stackelberg 博弈分解策略优化梯度,提出远视策略优化(FPO)以正则化该影响项,恢复缺失的对齐机制。 FPO 通过一阶近似实现,并在 Llama-3.2-1B 等环境中验证了其对对齐崩溃的预防效果。

  4. arXiv · ML26

    MACaQ:面向低精度权重与激活的快速、模型无关校准量化

    MACaQ 是一种 MXFP4 W4A4 后训练量化方法,通过逐层独立处理和在线应用块哈达玛变换,避免了跨层依赖。 在 vLLM 中的 Qwen3-32B 上,MACaQ 仅增加 2.3% 的端到端推理开销,并比 DuQuant++ 和 MR-GPTQ 实现了更低的困惑度。 该方法在 11 倍更快的量化时间内匹配 Llama-3-8B 的最佳困惑度,并展示了通用性和高效性。

  5. arXiv · NLP35

    语言模型确认偏误评估与缓解

    研究发现大语言模型(LLM)表现出确认偏误,倾向寻找支持而非反驳假设的证据,导致规则发现率降低。 通过提示模型考虑反例,平均规则发现率从 42% 提升至 56%;知识蒸馏该干预行为可泛化至新领域,如数学自我纠错。

11月9日周一
  1. arXiv · ML26

    稀疏自编码器特征的权重解释:基于 Gemma-2 和 Llama-3.1 的因果分析框架

    研究者提出无需激活数据的权重解释框架,通过特征消融干预在 Gemma-2 和 Llama-3.1 上发现 SAE 特征继承基模型几何结构,揭示了 U 型、注意力峰值及输入输出特征的反向耦合。 该框架识别出三种依赖层深度的特征签名,指出绑定嵌入下语义特征呈 U 型分布,解绑时分叉,注意力参与在中间层达到峰值。 此方法补全了基于激活的解释中缺失的因果部分,为理解 SAE 特征的计算角色提供了新视角。

11月6日周五
11月5日周四