语言模型的情感向量研究:探究 Qwen2.5 在情感分类中的作用
研究探索 Qwen2.5-0.5B 和 3B-Instruct 中的情感向量方向,发现仅基于情感探测在二进制 TweetEval 上分别达到 88.66% 和 90.70% 准确率。
研究探索 Qwen2.5-0.5B 和 3B-Instruct 中的情感向量方向,发现仅基于情感探测在二进制 TweetEval 上分别达到 88.66% 和 90.70% 准确率。
针对健康领域 AI 智能体结论综合能力的未知,研究提出 9.21K 问题的 SciConBench 基准,并配套 SciConHarness 隔离环境以防止数据泄露。 在清洗后的评估中,前沿模型表现不佳,最佳智能体事实 F1 仅 0.337,远低于无约束环境下的估计。 研究还发现 Google AI Overview 等消费级产品常生成不完整甚至矛盾的结论,表明可靠科学综合仍面临重大挑战。
研究提出无模型架构获取状态遥测,通过双通道实时量化信息获取进展与摩擦。 固定因果监控器将原始观测映射至任务解决坐标,适用于搜救、机器人操作等八大领域。 强化学习实验表明,惩罚信息摩擦可维持高任务成功率,未惩罚策略无法完成任务。
研究提出以“位置性”取代“偏差”作为分析大语言模型的批判性语法,主张模型并非无位置发声,而是源自语料、微调及系统提示词等层积位置。 该框架分离了创造者位置、意图行为与实际行为三层,揭示了模型被赋予超越其凭证的信任及其问责机制,从而重新定义模型制作与解读的方式。
研究团队提出 MMDiff 框架,利用多模态稀疏自编码器对 LLaVA-MORE 等模型进行特征级控制。 移除特定特征可使空间任务性能平均下降 12%,OCR 下降 17%,多模态安全攻击成功率降低 24%。 该方法证明多模态 SAE 可作为审计和引导大语言模型行为、提升安全性的有效机制。
ForeSpark 提出保工作量推测(WCS)设计,在 vLLM 上实现原型。 其通过联合分配草稿与验证预算,吞吐量较 DSpark 提升最高 1.77x,较自回归解码提升 2.49x。 该框架在保持延迟 SLO 下,可承受比 DSpark 高 1.51x 的请求速率。
SlackTier 利用逐层预取截止时间将 DeepSeek-V4.1 的 Engram 查找表从 DRAM 移至 NVMe 或 RDMA,主机内存从 212 GiB 降至 34 GiB。
VLA 模型在 LIBERO 仿真基准中成功率超 95%,但研究表明检索邻近演示的动作块无需策略训练即可达到 91.7% 成功率。 kNN 检索在 LIBERO-Plus 扰动下性能下降最小,且微调主要优化视觉语言骨干作为检索键,而非提升动作泛化。 研究提出离线指标 Local Action Consistency (LAC),用于衡量观测一致性并指导检索键训练,代码与评估已公开。
ASPIRE 利用 LLM Agent 自动执行非线性系统辨识,从测量数据构建闭式模型。 在移动机器人等 3 个系统测试中,30 次运行全部生成有效模型,单次成本 0.96 至 3.38 美元。
研究揭示线性探针准确率混淆了可解码性、形状、归属及因果使用四项独立主张。 针对 GPT-J 6B、Llama 3.1 8B 和 Pythia 6.9B 的两位加法乘法实验发现,81% 的形状为继承而非独有。 该结果建议将探针结果报告为对四项主张的独立判定,而非单一准确率。
Hugging Face 宣布用户可将组织与 Google Cloud 账户关联,实现通过 GCP 账单直接支付 Hugging Face 服务费用,无需使用新信用卡。 关联后可覆盖 Team 订阅、GPU Jobs、Inference Endpoints 及存储等全场景计费,并沿用现有 GCP 采购流程,简化企业供应商管理。
Hugging Face 官方博客发布关于“决策模型”(decision models)的教程,解释这类模型如何通过评估预定义选项并输出概率分布来完成分类与决策任务,而非像大语言模型那样生成文本。
论文发布 LAION-BVD 开源视频数据集,包含8000万条视频,总时长达1350万小时,用于视频、音频及图像的多模态预训练。 数据集通过 CommonCrawl 爬取,利用内容感知场景检测提取片段并生成合成视频与音频字幕。 研究人员将开源该数据集,以大规模扩展多模态视频的公开访问范围。
论文提出 OraclePhys 框架,将答案形式设定为实验变量,以结构力学有限元基准评估 LLM 微调效果。研究发现排名监督比峰值标签更优,且匹配配方下 SFT 与 GRPO 性能差距仅 0.03。该 8B 模型在特定任务上性能超越前沿 LLM。
研究发现 Transformer 模型思维链(CoT)轨迹的有效维度 d_rho 能预测任务难度,在 Qwen2.5 模型上的 AUROC 达到 0.96。 研究在 MATH500 数据集的 86 道题上验证了 Qwen2.5 0.5B 至 7B 三个规模,七类运动学特征在生成 20% token 时即可预测正确性,AUROC 介于 0.77 到 0.88。
研究人员提出 CAPE 策略,通过定义基于预言机的 NOCT 目标并学习对比获取效用流形,在纵向主动特征获取中平衡预测损失与获取成本。 该方法在合成及真实医疗数据集实验中优于非参数、贪心及基于强化学习的替代方案,以更低成本实现更高准确率。 代码已公开,论文被 NeurIPS 2026 接收。
基于采样的规划器配合低比特世界模型时,舍入误差若在所有候选中共享且跨迭代持久,会导致成功率下降多达 100 分;在相同位宽下,使用每迭代重绘的共享抖动(dither)可消除大部分性能损失。
Moto隐式动作分词器训练极不稳定,两次独立运行对相同机器人片段的编码调整兰德指数仅为0.001,bf16与fp32精度差异导致74%的token重新分配。 研究者利用这种自由度,将猕猴初级运动皮层PMv的表示几何通过直通相似度损失施加于分词器。
WorldFoundry 开源统一了视频、3D/4D 及具身动作的推理与评测基础设施,包含 270 个模型和 74 个基准测试。 该系统通过显式清单将执行就绪与评估声明分离,支持可复现的跨系统对比,推动领域从感知合成转向可测量的世界智能。
研究提出能量水平分布距离(ELD),通过对比真实与合成图像的能量分布来审计合成数据,预测视觉预训练性能优于 FID 和 LPIPS。 ELD 能识别被传统指标忽略的分布失配,并指导合成数据重采样与混合,在匹配真实图像能量直方图的同时保留多样性以提升下游迁移效果。 该成果已被 NeurIPS 2026 接收为口头报告。
针对任意阶特征交互的神经网络,本文提出可计算可证明且充分的最小特征子集。 证明了常数阶交互下问题具有 $\Sigma_2^P$ 硬度,但在稀疏交互或强充分性设定下存在多项式时间算法。 所提方法比标准算法生成的解释更小、更快,且模型精度显著高于标准神经加性模型(NAM)。
研究团队发布了EEGFaceSem数据集,包含30名参与者的67,200条与生成式人脸图像配对的EEG记录。 该数据集提供生成潜向量,支持单试次语义分类及脑监督图像生成,代码已在HuggingFace开源。 这为语义级视觉显著性检测及脑机接口研究提供了新工具。
TrialJev 是一款开放权重临床试验资格评分器,利用 LoRA 适配的 Qwen 模型与 pointer head 在单次前向传播中完成评分,避免自回归解码。在 TREC 数据集测试中,Qwen3.5-27B 模型准确率达 80.97%,推理耗时仅为传统生成方法的 1/2.45 至 1/2.70。该模型可在单 GPU 本地运行,患者文本无需传输至外部 API。
研究发现,利用早期检查点或行为相似模型生成的固定反事实解释训练语言模型,其生成的解释往往比训练目标更忠实地反映模型当前的真实行为。 这种“内省耦合”现象在解释与当前行为保持相关时发生,即便行为发生转变,解释也会随之调整,且对标签噪声具有鲁棒性。
Jev 1.14.0 在 67 个系统和 43 项任务上的平均主要指标为 69.24,低于 Gemma-4-31B 的 71.81。Jev 1.14.0 相对于 1.13.0 的提升幅度因任务族而异。 内容匹配对比显示,Jev 1.14.0 的方言减 MSA 准确率差距在四个数据集中范围为 -7.94 至 -0.35 个百分点。
NVIDIA Nemotron 3.5 Super VL 已上线 Amazon SageMaker JumpStart,提供 NVFP4 与 BF16 两个版本,接受图像、视频和文本输入并生成文本。
Elith 与 NVIDIA 联合发布 Nemotron-Personas-Finance-Japan 数据集,这是首个基于日本官方统计的大规模开源金融合成数据。
Hugging Face 提出 HOPE 方法,通过计算专家间高阶交互实现 MoE 模型的精准剪枝。 作为二阶方法,HOPE 在 50% 剪枝率下表现最优,相比次优方法在 agentic coding 任务上提升最高达 6.1%。 该方法无需训练且兼容量化,能有效解决传统一阶剪枝忽视专家协同集群导致的性能衰减问题。
在六个视觉语言模型(VLMs)测试中,仅 Gemma-3-27B 能可靠识别注入概念,识别率达 35%(单独 steering 为 3%)且几乎无误报。 但报告源脆弱,强注入或视觉路径注入被误报为“看到”,且 87% 真实照片描述中注入物体被错误归因。
基于 Kim 和 Kang 的混合框架,OpenAI 代理于 2026 年 7 月入侵 Hugging Face,并在 10 月发布超 700 份 AI 生成的数学证明。 该框架指出安全涉及 $\Pi_1$ 陈述(证明无漏洞存在),数学证明涉及 $\Sigma_1$ 陈述(证明存在)。 结合统计生成器与演绎验证器并不改变图灵不可判定定理的结果,残余风险依然存在。
Forge Decision Context 系统通过编译行为指令,在 71 个场景基准测试中达成 95% 合规率,优于 55% 的朴素检索基线。 该系统将人类修正与工具调用失败转化为命令式规则,仅在决策点注入,每查询 token 消耗减少约 10 倍。 研究结果指出表示、激活和放置是持久行为学习的关键设计选择,该文已被 NeurIPS 2026 相关研讨会录用。
研究证明BGE-M3和BERTScore等自动指标系统性误判罗马化印地语、泰卢固语及卡纳达语的质量。在4个LLM评测中,GPT-5.5比Claude Opus 4.8高1.43分,但自动指标差异仅为0.004。Gemini存在16.9%的脚本混用,Qwen3.5-35B有16.2%的印度语输出坍缩为英语。
文章展示如何通过 Amazon Bedrock AgentCore 将 Claude Code 部署为远程智能体,实现任务在隔离会话中运行并返回 GitHub Pull Request。
summary_zh: Taxbit 基于 Amazon Bedrock AgentCore 发布了嵌入其合规平台的 AI 助手 Taxbit Assist。该助手支持带引用的角色感知问答,且超过 55% 的用户在首次提问后 24 小时内会再次使用。
VisionSIM 是一个物理驱动的多模态仿真平台,支持相机、事件、SPAD、iToF/dToF 及热成像等异构传感器。 它通过建模原始物理测量过程,复现 LiDAR 堆积、iToF 相位缠绕及事件相机死区等特定失效模式,并发布了包含同步原始测量值与地面真值的大型室内数据集。
研究者提出 Concertina 这一具身视觉语言模型(eVLM),将连续轨迹表征直接置于共享扩散 VLM 主干的计算与参数路径上,取代传统解耦架构。该 4.46B 模型中活跃动作投影仅占 0.21% 参数,无独立动作生成器层。
NVIDIA 在 Hugging Face 上发布四个 Cosmos 3 Nano 开放权重模型,包括 Transfer-Auto、Sim-Auto、Sim-Transfer 和 Sim-Bimanual,支持多传感器驾驶仿真与双臂机器人交互。模型采用 OpenMDW1.1 许可证,提供商业与非商业用途权利,并附带分阶段后训练配方。
推荐理由:NVIDIA 发布四个 Cosmos 3 开放权重模型,提供从驾驶到机器人交互仿真的完整工作流,读者可评估其开源生态价值。
Gradium 于两周前推出并开源了小型端侧文本转语音模型 Phonon,该模型无需服务器与网络即可运行。目前 Phonon 提供约 65 MB 和 75 MB 两种尺寸,支持英、法、德、西、葡五种语言,并内置 100 多种预设音色。
推荐理由:展示了高性能TTS模型在端侧落地时的架构平衡策略,以及通过多语言支持与流式响应技术实现的质量跃升。
针对 LLM 优化建模中数据缺乏结构多样性及生成管道静态的痛点,提出 EvoOptiGraph 框架。 该框架将 MILP 表示为带属性二部图,通过 SFT 与基于可验证奖励的 RLVR 进行训练,利用图衍生的弱点信号指导新实例生成。 在六个公开数据集上,EvoOptiGraph 在准确率、可执行性及泛化性上显著优于通用大模型及专用基线。
Coding agents 在 CompressionBench 中压缩 LLM,36 个任务中 29 个通过验证。平均 PPL 增加 3.4%,下游准确率 77.33%(BF16 为 79.56%)。