Directional Attention Guidance (DAG) 实现扩散模型免训练单步推理加速
论文提出免训练的单步推理规则 DAG,通过放大稀疏-稠密注意力差异中检索方向对齐的分量来加速生成,在 FLUX.1、FLUX.2 和 Qwen-Image 等骨干网络上提升了文本对齐与人类偏好评分。 该规则基于 Modern Hopfield 动力学分析,具有弱收缩稳定性,适用于 UNet 和 MMDiT 架构及多步/少步场景,仅需在基础采样器上增加微小单图成本。
论文提出免训练的单步推理规则 DAG,通过放大稀疏-稠密注意力差异中检索方向对齐的分量来加速生成,在 FLUX.1、FLUX.2 和 Qwen-Image 等骨干网络上提升了文本对齐与人类偏好评分。 该规则基于 Modern Hopfield 动力学分析,具有弱收缩稳定性,适用于 UNet 和 MMDiT 架构及多步/少步场景,仅需在基础采样器上增加微小单图成本。
FlowHOI 提出一种两阶段流匹配框架,用于生成语义连贯的手物交互(HOI)序列。 该框架通过解耦几何抓取与语义操作,在 GRAB 和 HOT3D 基准上实现了 40 倍推理加速,且物理模拟成功率比最强扩散基线高 1.7 倍。 该成果已被 NeurIPS 2026 接收,并展示了将生成的 HOI 表示重定向至真实灵巧机器人执行管线的可行性。
研究对 16 种检测方法的 23 个预训练变体在 12 个数据集上进行了零样本评估,发现最优检测器平均准确率为 75.0%,而最差者仅为 37.5%。 训练数据对齐导致同架构检测器性能差异达 20%-60%,Flux Dev、Firefly v4 和 Midjourney v7 等现代生成器使多数检测器准确率降至 18%-30%。
研究回顾评估了10个胸片AI分类模型在来自六国的12个数据集上的表现,主要结局为95%敏感度下的特异度。 MAVL和MedKLIP总体特异度最高(0.37),但PPV仅0.18-0.19;在机构队列中,多数模型特异度比公开基准低0.09-0.15。 这表明公开基准性能高估了模型在未见数据上的表现,部署前需进行外部验证。
提出 ToDoPro 方法,在下采样参考图像上执行少量去噪步骤以提取 token 重要性。 通过层级化 token 减少策略,加速推理并降低峰值 GPU 内存,同时提升生成质量。
GMoE-FTI 提出一种基于真实 MoE 机制的通用面部模板反演框架,通过三阶段训练策略生成兼容 StyleGAN3 的统一潜在代码。 该方法独立训练五个映射专家与匹配模块,进行协同推理并端到端联合微调。在 LFW 基准及七种未见模板类型上测试,平均 TAR 提升 40%,FAPD 与 FAPC 各降低 2%。
VaLoP通过在未来采样步骤计算价值并回拉梯度,解决了高噪声状态下价值梯度估计不准确的问题。 该方法使用一次向量-雅可比积计算校正项,VaLoP-Fast通过小型头部摊销该成本。 在LIBERO和RoboCasa基准测试中,VaLoP-Fast实现了最高的机器人策略成功率。
可灵AI利用Kling 4.0制作AI短片《King Card》,发布后海内外播放量超500万。该作展示了Kling 4.0在动态生成及最多10张关键帧输入上的技术能力,实现了数千张卡牌螺旋环带及红色折纸鸟等复杂视觉奇观。短片通过不同镜头视角塑造感官体验,鼓励创作者探索视觉表达边界。
RADIANT提出一种对象中心的前馈式全局照明架构,将注意力序列长度与多边形数量解耦,每个对象使用32个表面贴片令牌表示。 该模型通过不变型form-factor attention直接嵌入几何距离和表面朝向,并在单次网络内实现对象间辐射交换与视角解码。
论文提出 Transformer 能量基模型 (TEM),通过在潜空间运行并提取多层能量进行约束,解决高维采样与训练不稳定性。 引入正向表示对齐 (PRA) 利用视觉基础模型监督中间表示,并优化推理采样策略以提升质量。 TEM-XL 在 ImageNet 256×256 上无需无分类器引导,FID-50K 达 3.82;512×512 分辨率下 FID 为 8.24。
PaperScorer 模型能根据论文内容预测同行评审的录用决定,视觉模型预测准确率最高,在 ICLR 论文上达 68%,在 arXiv 机器学习论文上达 77%。 该模型仅基于去除作者身份后的文本或页面截图训练,视觉输入保留了图表和排版信息,比纯文本和前沿推理模型更具预测力。 研究显示该信号对低分和高分论文预测最准,但对中等评分论文不可预测,标志着 AI 驱动科研评估的初步进展。
SteerVTE 提出统一框架,通过风格与字形控制引导冻结视频扩散模型,实现高精度的视频文字编辑。 该方法包含轻量文本上下文适配器、字形感知空间聚焦损失及三阶段渐进训练课程。 团队构建了包含一百万三元组的 SteerVTE-1M 数据集,实验显示其显著优于现有基线。
PASTA 提出一种无需训练的扩散采样框架,通过提示词感知的共享潜在退火策略,在生成图像时严格保留标题、Logo 等预留区域的干净度,避免现有方法导致的视觉不协调或内容干扰。
针对单图 3D 场景构建难题,提出 Easy-3Dfy 组合式工作流,解耦物体生成与场景布局估计。 该流程利用 RPF-based aligner 建立物体局部网格与部分场景点图的几何对应,实现场景组合。 Easy-3Dfy 无需完整场景级监督,在 Scene-Maker 和 3D-FUTURE200 数据集的几何指标上持续优于 SAM-3Dfy。
针对扩散模型中概念分布纠缠导致的遗忘效率低问题,提出结合可解释性引导与无推理微调的 Concept Acupuncturist 框架。 该框架利用稀疏自编码器(SAE)定位 U-Net 去噪器中最相关的交叉注意力块,通过特征级修正信号实现精确擦除,避免全轨迹优化。 在 SDXL-Turbo 上,该方法将遗忘成功率提升 36.34 个百分点,同时保持图像质量与提示词保真度,代码已公开。
PosterHarness将海报生成重构为可测量的指令遵循任务,通过占位符契约分离视觉设计与数据图形绘制。 该框架在12篇论文上实现合成图形从34降至0,并比较了与Paper2Poster在分辨率和速度上的权衡。 所有组件、提示词和审计脚本已作为可复用评估组件公开。
该研究提出SAEParate方法,通过概念感知对比学习和交叉注意力引导的空间聚合,在扩散模型潜在空间中显式分离语义重叠概念,以实现针对特定概念的无参数遗忘。 在UnlearnCanvas基准上,该方法达到了最先进的性能,特别是在联合风格-对象遗忘这一具有挑战性且现有方法存在严重干扰的设置中表现突出。 该方法已被NeurIPS 2026接收。
BOLT-GAN 提出用 BOLT 损失替代交叉熵,在平衡先验下将博弈等价于最小化分布间全变差。 限制判别器为 1-Lipschitz 后,在四个图像生成基准测试中,BOLT-GAN 样本质量与覆盖率优于 WGAN-GP。
SpectralCanary 通过低频低通掩码将金丝雀图像混合进数据集图像,无需辅助生成或逐图优化,实现了轻量级 T2I 模型数据集使用审计。 在 Pokemon 等数据集测试中,该方法平均单次生成 TPR@1% FPR 达 91.1%,模型级准确率 94.8%,且保持图像 SSIM 0.989、LPIPS 0.022,证实低频信号是有效的集合级审计载体。
SciFusion 提出多模态 3D 科学图像生成框架,采用潜在扩散骨干与组合条件方案,在 15 种成像模态上实现零样本合成未见组合。 框架引入 MRI 傅里叶频谱、CT Radon 投影及电子显微镜多切片衍射的物理一致性目标,提升生成保真度与跨域泛化能力。 该框架为新兴模态提供了可扩展的统一生成方案,无需针对特定目标组合进行训练。
该框架整合交叉验证数据合成、教师增强及可验证奖励优化,显著提升自动PPT生成质量。 实验显示,增强SFT管道使 Qwen-3.6-27B 和 Qwen-3.6-35B-A3B 在 PresentBench 上分别提升 7.45 和 9.35 分,超越 GLM-5.2。结合 GRPO 强化学习进一步优化五个审美维度。
MVMAE框架利用放射学多视图结构实现自监督预训练,在MIMIC-CXR等数据集上超越监督及视觉-语言基线。 模型结合掩码图像重建与跨视图对齐,扩展版本MVMAE-V2T引入放射报告作为辅助信号,在低标注场景下表现更优。 研究证实结构与文本监督是构建可扩展医学基础模型的有效互补路径。
研究分析了4chan和Reddit论坛,发现282,154条4chan评论和78,308条Reddit帖子中,用户共享了156个用于微调模型生成141名女明星图像的LoRA文件,以及54个商用去衣应用链接。 不同技术水平的用户通过共享这些资源促进了合成非自愿亲密图像内容的传播,专家与新手之间的知识转移加剧了此类非法资源的扩散。 研究揭示了现有监管基础设施的漏洞,并提出了加强威慑的关键干预点。
AlignGemini 通过正交监督解耦(Align, Don't Blend)解决 AIGI 检测泛化难题,在五个真实场景中提升 9.5%。 该方法让 VLM 仅接收语义监督,视觉专家仅接收伪影监督,无需复杂训练策略即可基于两个生成器实现跨生成器泛化。 研究同时引入覆盖八个当代生成器的诊断基准 AIGI-Now,以支持细粒度的检测能力评估。
MCLR 提出一种微调目标以最大化类间似然比,显著提升了无 guidance 条件生成效果。 该方法证明 classifier-free guidance 是 MCLR 目标的隐式对比对齐过程,并厘清了其与 DPO、CFM 等目标的联系。
SAKURA 提出一种云边协同架构,在带宽受限下向手机设备传输可复用的注意力 KV 状态,用于扩散模型图像编辑任务。 该架构采用细粒度 token 重要性感知压缩方法,运行时根据网络带宽自适应选择缓存表示,并通过流水线执行将缓存传输、重建与设备端计算重叠。
summary_zh: CRAB 是一个可将点云转换为可编辑 BIM 模型的新框架,被 SIGGRAPH Asia 2026 接收。该框架将墙体、门窗等结构编码为带 IFC 语义的紧凑长方体,由 ProposalNet 和 Flow Matching 模型 AssemblyNet 共同完成重建与几何细化。
研究评估胸部X光片数据集中生成图像作为证据的可靠性,指出像素检查无法验证采集声称。 实验显示Qwen选择提升质量通过率,但无图像同时通过质量与来源分类器;SynthCheX图像在JPEG压缩后检测准确率显著下降。 结果支持在医学数据集中分开记录并检查图像来源与用途。
提出无需重训练的腹部器官分割框架 ReSeg,在CT、MRI和PET三种模态的七个数据集上超越了现有SOTA方法。 第一阶段训练可泛化语义表示网络(GSRNet),第二阶段训练器官专用编码器-解码器分割网络(OESNet),使用保留空间布局的合成数据。 消除了对真实训练图像的需求,解决了泛化能力不足和隐私风险问题。
该研究提出一种基于 KL 散度的自蒸馏双流 Swin ResNet 混合框架,用于解决香蕉品种分类中的跨等级泛化问题。 在 Leave-One-Grade-Out 评估协议下,该模型在包含 31,678 张图像的三品种、三级质量数据集上取得 81.25% 的平均准确率,优于纯 CNN 和 Transformer 基线。
研究团队提出基于前向后向偏微分方程的生成建模框架 SBNL,通过耦合 PDE 系统扩展经典 Schrödinger 桥问题,并利用分叉扩散算法求解。 该方法具有 embarrassingly parallel 特性,可扩展至高维非线性交互泛函。
研究提出 DualHeads 方法,利用轻量级双分类头在冻结扩散模型上实现少步生成的奖励对齐。该方法无需可微奖励,仅需外部奖励评估与参考样本,通过最大化加权对数几率实现 KL 正则化奖励最大化。 实证显示,DualHeads 在少步生成中接近 40 步强化学习方法的任务奖励,且保持图像质量,无额外推理成本。 该简洁双头架构有望推动少步奖励倾斜生成技术的发展。
FiTv2 将图像概念化为动态大小的 token 序列,支持无限制分辨率和宽高比的图像生成,其收敛速度达到 FiT 的 2 倍。 模型引入 Query-Key 向量归一化、AdaLN-LoRA 模块、整流流调度器和 Logit-Normal 采样器,所有代码和模型已开源。
论文提出 WildMAE,一种结合局部结构感知细化与掩码到可见交叉注意力的掩码自编码器(MAE)解码器扩展,用于野生动物相机陷阱图像重建。 其架构通过零门控卷积残差路径引入二维邻域先验,并配合渐进式训练目标。在 75% 掩码率下,WildMAE 在 Snapshot Serengeti 数据集上 PSNR 达 27.90 dB,SSIM 0.840,LPIPS 0.160,优于标准 MAE。
研究提出扩展残差空间自适应至预训练扩散模型,实现持续概念个性化。 方法在竞争方法中取得最高概念保真度且几乎零遗忘。 通过将自适应限制在特定层,可训练参数减少最多72%。
研究表明,在文生图模型中,人脸吸引力偏好会压倒图像质量,导致吸引力更高的AI生成人脸在Elo排名中超越真实人脸。 在PickScore等5个人类偏好模型中,吸引力是4个模型得分的最强相关性因素;偏好对齐生成会将人脸导向更年轻、更女性化的特征,甚至覆盖提示词中的不吸引力要求。 该发现揭示了当前偏好评估的缺陷,呼吁开发解耦图像质量与人类认知偏差的模型,以提升评估可靠性。
针对低资源历史手写字符识别中增强策略仅依赖预测准确率评估的局限,本文提出 saliency 约束增强方法,引入可解释一致性指数(ECI)量化模型在受控扰动下的 saliency 模式稳定性。
扩散模型中恰当的分布学习需反转底层密度函数的扩散过程,而记忆现象是指逆过程从单个训练样本中学习扩散。 研究提供了记忆逆过程的解析表征,并提出一种检测相关热力学奇点判据,该判据能可靠区分正常学习与记忆网络。 该判据适用于多种旨在促进或缓解记忆现象的神经网络模型。
NVIDIA 在 GTC Berlin 展示了本地 AI 硬件全线更新,RTX Spark 现已支持运行 Underdog 桌面智能体,实现个人智能体在 Windows PC 端侧运行。同步推出 Recursive Flint 本地编码模型,该 40B 参数 MoE 模型在 Apache 2.0 许可下开放,并优化了 llama.cpp 与 vLLM 推理引擎以加速端侧 Agent 任务。
研究团队提出 UMM-Reflection,利用强化学习在统一多模态模型内联合学习反思文本与图像修正,克服了监督微调难以发现高成功率修复路径的局限。 该方法在 BAGEL 模型上使 GenEval 提升 12.05 分,且增益迁移至 WISE 等未参与训练的基准,无需外部验证器即可跨轮次分配信用。