Amazon EKS 使用 NVIDIA Run:ai 实现 GPU 内存分片
在 Amazon EKS 上,NVIDIA Run:ai 通过强制实施每 Pod GPU 内存限制,解决了无 MIG 功能 GPU 的资源共享难题。 该方案基于 Kubernetes 调度集成与 per-Pod 内存契约,允许单个 A10G GPU 同时运行两个分配 6 GiB 内存的 Pod。 此方法显著提升了交互式笔记本及小型推理服务的资源密度,但需注意其不保证故障隔离。
在 Amazon EKS 上,NVIDIA Run:ai 通过强制实施每 Pod GPU 内存限制,解决了无 MIG 功能 GPU 的资源共享难题。 该方案基于 Kubernetes 调度集成与 per-Pod 内存契约,允许单个 A10G GPU 同时运行两个分配 6 GiB 内存的 Pod。 此方法显著提升了交互式笔记本及小型推理服务的资源密度,但需注意其不保证故障隔离。
研究团队将 3 亿参数的 Prithvi-EO-2.0 教师模型蒸馏为 0.7 参数的 EfficientViT-B0 学生模型,在 WorldFloods-v2 等测试集上达到教师级精度。 学生模型体积仅 1.6MB,在 Jetson Xavier NX 上以 4.9ms/图速度运行,误报率低于 10%。 该方案解决了大模型在边缘硬件部署的难题,支持洪水预警等无值守场景应用。
研究系统量化了 HIPPIE、IntAct 等数据库中的拓扑及功能偏差,指出随机数据拆分会引入强捷径。 团队提供了基于整数线性规划优化的 Nextflow 管道,通过感知相似性的拆分和负采样最小化偏差,该方法可推广至其他机器学习问题。
视频 VLM 时序基准分数混淆了问题是否有时序性与模型如何恢复顺序。 引入反转冲突评分,区分标签无关与确定性标签两种读数,发现 Qwen3-VL 属视觉序列主导,Molmo2 属位置主导。 证明同分模型不可互换,两者通道在相反输入上失败,对评测有效性至关重要。
论文提出“自主视频生成”概念,旨在构建自进化世界模型。其核心主张是模型评估不应仅看视频保真度,而应衡量生成帧在反事实干预下的有效行动能力。 文章形式化了生成、绑定、验证与蒸馏的四阶段闭环优化流程,并定义了新颖性、一致性、OOD及效率四项指标。 该框架以无人机和机械臂为具身测试床,通过扰动风场、感知限制等约束,验证生成视频对决策的实际指导意义。
针对批推理负载,BatchGen 提出了序列协程计算模型,以解决现有推理引擎在大规模扩展时的低利用率问题。 该架构支持事件驱动的细粒度工作重组,可在 128-GPU 集群上将批处理完成时间最多缩短 2.3 倍,并在内存受限加速器上超越最佳卸载基线达 9.6 倍。 作者计划开源该生产级系统,以支持跨设备动态再分配工作及维持高效能。
提出 Pose6DAug 数据增强框架,通过保留成功轨迹并交换操作物体来生成物理一致的演示。 该框架在 3D 空间中利用显式网格和 6D 位姿驱动物体,解决了 2D 编辑破坏多视角一致性的问题。 在真实机器人上,该方法使基础策略成功率提升超过一倍,显著优于现有基准。
DLWM 是一种结合潜空间推理与强化学习的多模态推理框架,在多个基准测试中准确率较现有方法高出 2-5 个点,同时内存使用降低 24%。 该框架通过构建多样化的潜空间世界假设并利用基于正交性的多样性正则化防止假设坍缩,解决单一解释假设的局限性。 资源感知的强化学习策略将推理过程建模为资源受限的序贯决策问题,动态决定扩展、剪枝、合并推理路径或生成最终答案。
GRTO 提出一种两阶段框架,联合优化视觉语言模型策略与可微分割工具,在三个指代分割基准上显著超越基础 GRPO。 该框架首先将工具自举至理论最优策略以获取易得增益,随后扩展 GRPO 联合精化策略与工具,实现比单一优化 VLM 更稳健的奖励信号与收敛性。 实验表明 GRTO 匹配或超越领域 SOTA 方法,验证了统一强化学习与可微辅助目标在推理密集型分割任务中的价值。
FlashReFocus 通过单次扩散生成与轻量级渲染网络,实现单图秒级交互式焦点调整。 该方法在 EBB! Val176 等基准上取得最佳保真度,1536x1536 分辨率下完整重构耗时 2.45 秒,后续编辑仅 0.46 秒。 支持倾斜位移及双平面效果,确保多轮编辑中画面内容保持稳定一致。
研究对比显示,包含地面反力与压力中心的动力学感知模仿学习(KAIL)比纯运动模仿学习(MOIL)能生成更符合生物力学的关节力矩。KAIL 将垂直地面反力和压力中心误差降低 40% 和 48%,髋、膝、踝关节力矩误差分别降低 19%、18% 和 35%。该发现揭示了纯运动模仿学习在步态动力学估计上的根本局限,可能影响可穿戴机器人设计及病理步态诊断。
研究提出 Hearsay 基准测试,针对 16 个部署框架发现 Agent 运行记录均由单一 harness 写入,构成不可验证的“传闻”。 模型检查者引用证据存在 18-55 分偏差,且仅能识别半数篡改;引入第二写者账本后,在 66 项篡改中检出 64 项。 核心结论表明,赋予运行记录证据效力的关键在于引入第二写者机制,而非提升读取者能力。
LIDAR 提出了一种主动黑盒指纹识别方法,通过执行行为而非文本分布来验证编码智能体的底层模型身份。 该方法利用三组编码探针检测编辑后验证、瞬态故障恢复及规格测试冲突解决行为,在 24 个模型上实现 91.39% 至 98.89% 的封闭集 Top-1 准确率,无需访问模型权重或内部逻辑。
自主智能体筛选数百万候选定律,发现八条PRIS规则,涵盖短程排斥等五种物理机制。实验结构满足PRIS的概率达82%-99%,严格集检测87.9%受损结构。PRIS得分过滤83.7%难合成结构,保留80.7%实验结构,使DFT验证队列缩减67.3%。
模型 SuperScout 在 SWE-bench Pro Python 测试集上以约 1/5 的单次求解成本,达到与最佳单模型 159/266 的相同解决率。 其 7B 搜索器生成经沙箱验证的交接文档,路由器基于隐藏状态调度任务,新增修复器无需重新训练。 消融实验表明交接文档而非路由决策本身承担了主要增益,搜索器额外计算开销低于 0.5 美分。
该模型将物体表示为保留局部表面几何的高斯基元,并用预训练描述符编码手部形态与运动学,结合各向异性马氏距离场建模手部接触。 在 CMAP 和 MultiGripperGrasp 基准测试中,其性能超越最强基线最多 8.24 个百分点,在未见 SharpaWave 手上提升 16.57 个百分点,真实实验成功率达 86%。
研究团队推出 SciFigQual-Bench 基准及 SFQ-Agent 框架,针对已发布的计算机会议图表,将图像与图注、引用段落绑定评估。 该框架通过分模态调用与跨模态评分,重点考察视觉清晰度、布局、图注及上下文一致性,实验显示其比单程评估更接近人类评分。 该方法解决图表内容与文本脱节导致的质量误判问题,指出图注一致性是目前主要评估难点。
基于YouTube真实轨迹的实验表明,LLM辅助重排序在提升推荐相关性的同时,可能加剧对极端或阴谋论内容的曝光。 使用三个模型的零样本提示与嵌入基线对比,轻量级提示约束能减少所有模型的问题内容曝光,且重排序器相关性仍高于平台基线。 研究强调需超越准确率评估LLM辅助个性化,并将提示设计视为价值选择。
研究提出 Systolic Linear Attention (SLA) 架构,通过协同设计使 2 级 SLA-R4 在 TPU v7x 上比开源 MaxText KDA 快 2.1x-2.6x,且 HBM 使用量降低 49%-61%。
WorldComposer 通过 Real2Sim2Real 框架,将真实全景图映射为高保真仿真环境,并合成数字表亲(Digital Cousins)实现数据增强。 该平台支持刚性、铰接及变形物体的交互操作,结合多房间拼接构建大规模环境,实验验证了 sim-to-real 高保真度及泛化性能。 该方法显著提升了机器人策略在未见场景和物体变化下的泛化能力,为高效学习与评估提供了解决方案。
PEARL 提出 PSVU 任务并构建 PSVU-Bench,解决用户实时定义概念及回顾历史的问题。 方法将概念与视频片段分离存储,结合 PSVU-10K 训练检索器。在三个架构上平均提升实时问答 15.05%,优于现有在线模型。 代码、数据和模型已公开。
SHAMISA 提出一种非对比自监督框架,通过显式结构化关系监督从无标签失真图像中学习无参考图像质量评估(NR-IQA)。 该框架利用组合失真引擎生成连续参数空间的退化图像组,在嵌入空间中拉近具有相似失真模式的图像。 实验表明,SHAMISA 在合成、真实及跨数据集 NR-IQA 基准测试中表现出强劲的整体性能。
研究团队发布 TinyMyo,这是一个拥有 360 万参数的 Transformer 编码器基础模型。该模型通过自监督掩码重建在公开肌电数据集上预训练,支持多种下游任务,并首次部署在超低功耗微控制器上。
MonitorVLM 发布,通过视觉语言框架自动识别矿场监控视频中的安全违规行为。 模型基于 9000 个 VQA 样本训练,引入条款过滤器和行为放大器模块,推理延迟降低 13.56%;相比 72B 未微调基线,精准率提升 22.01%,召回率提升 34.22%。 框架支持自动违规报告与时间戳定位,提升多模态模型在职业安全监测中的应用潜力。
FedS2R 是首个面向自动驾驶合成到真实语义分割的单次联邦域泛化框架,通过不一致性驱动的数据增强与多客户端知识蒸馏融合特征训练全局模型。 在 Cityscapes 等五个真实数据集上,该全局模型显著优于单个客户端模型,性能仅比同时访问所有客户端数据的模型低 2 mIoU。
研究利用深度强化学习优化托卡马克聚变反应堆设计,实施奖励受限策略优化(RCPO)算法。 RCPO将多个约束整合进奖励函数,引导策略生成满足稳定运行限制且最小化建造成本、最大化能量增益的可行方案。 数值结果显示该方法比其他数据驱动方法更高效地发现满足操作约束的设计,展现了DRL在反应堆设计中的潜力。
该研究首次全面揭示了I2I网络的后门攻击漏洞,提出了一种通用对抗扰动(UAP)生成算法作为触发器,并结合多任务学习动态加权方法,使后门I2I网络在干净输入下表现正常,仅在触发器出现时输出特定不当图像。 实验证明该攻击对最先进I2I网络架构有效,且具备抗不同后门防御措施的鲁棒性,并进一步扩展到图像分类与目标检测等下游任务,表明经后门去噪网络处理的触发图像可欺骗下游分类器与检测器。
基于 GNN 推荐系统的 AI 平台在 12 周内对 84,764 人实施个性化健康引导。实验显示目标组日均步数增加 6.17%,每周中等强度运动时间增加 7.61%。引导消息开启率达 13.1%,用户认可度显著。
IQS-BO 提出基于 PFN 的上下文查询选择方法,通过监督学习直接预测候选点为最优的概率,以较低成本匹敌或超越 GP 贝叶斯优化。 该方法无需传统代理模型重构,支持顺序与批量优化,适用于低维和高维场景,并能泛化至包含窄最优值或平台期的复杂函数。
提出弹性选择谱混合模型ESSH,通过输入依赖门控实现可截断的通道,支持单训多导。在1.53B配置下,B300上单token解码耗时1.37 ms。较Mamba-2/3提速2.14-2.80倍,较Transformer++提速3.03倍。
非均匀采样预算再分配在分布外工作负载上将求解器最优性差距降低11.8%-13.3%,而在训练分布上仅降低2.5%,均匀分配已接近最优。 该策略由工作负载内的难度分布而非平均值决定,使用20个探测样本拟合幂律曲线可恢复88%-93%的无代价最优收益,而2-opt局部搜索则以极低成本消除大部分差距。
研究在 Qwen3 和 Llama3.1 中提出两项指标,发现中低频全局位置带阻碍零样本长度外推。 建议在 380M 和 1.4B 参数实验中验证功能组织与位置依赖原则,支持基于功能需求的架构创新。
无训练 CommitKV 方法在四个开源多模态模型上实现最高平均准确率。在 Qwen3-VL-8B 上,256-token 预算比最强基线高 8.44%,512-token 准确率 69.85% 仅低于 FullKV 0.91%。 SGLang 与 vLLM 部署时,峰值 GPU 显存降低 54.37%–55.23%,端到端推理加速 2.12–2.17 倍。
对 2.6B 参数 Ouro-RLTT 循环模型的隐状态探针,在合成逻辑任务中实现 0.758 AUROC,优于 0.515 的 token 置信度基准。 探针在同题多答案对比中 74% 选出正确项,且信号在第 3 个循环即达最后层精度;虽能优化拒绝回答与候选排序,但无法提升生成质量。
提出物理信息高斯 Copula 变分自编码器,将数值特征值求解器嵌入解码器,确保后验样本满足结构动力学方程。 利用高斯 Copula 描述刚度系数的后验分布,实时捕捉部件间交叉相关性。后验估计结果与序贯蒙特卡洛采样精确解高度一致。 该方法提供了稳健且可解释的决策工具,能指示损伤位置并量化诊断不确定性。
研究对 Chronos-Bolt、Moirai 和 Lag-Llama 进行了首次系统盈亏平衡分析,在 30 个基准数据集上比较其与 Naive、ETS、ARIMA 和 XGBoost 的表现。
FlexMoE 提出训练后多预算专家剪枝框架,将大型 MoE 模型转化为共享权重的子网络族。 该框架通过重要性排序专家 FFN 通道构建可切片权重空间,单次训练即可生成各预算下的剪枝掩码;在 Qwen2-57B-A14B 上剪枝 50% 路由专家参数后,保留约 99.8% 的基础性能。
SharQ 提出一种免训练方法,将激活稀疏性与 FP4 量化结合以降低 LLM 推理开销。 通过在线稀疏-稠密分解,生成自适应 N:M 掩码提取离群值,并将稀疏主干量化为 FP4,用稠密残差补偿误差。 在 Llama-3.1-8B 等模型上恢复 43%–63% 精度差距,RTX 5090 上实现 2.2–2.4 倍延迟降低。
TabFM-Logit 通过将基础模型预测嵌入多项 Logit 效用中,在保持边际替代率等结构保证的同时提升选择预测精度。 该适配器在 Swissmetro、LPMC 和 IoT-Wearables 上平均提升 4.2 个百分点测试准确率,并保持 100% 成本单调性。 该方案在保持 Logit 模型理论保证的同时,利用了基础模型的准确率优势。
TROPT 是首个统一离散优化器执行的开源框架,涵盖 40+ 优化配方、15+ 优化器及 15+ 损失函数。支持白盒到黑盒访问,覆盖 LLM 越狱、语料投毒等应用。该框架显著降低了离散文本优化的采纳与研发门槛。