Circuit Condensation:通过后期训练浓缩模型行为因果回路的方法
研究者提出Circuit Condensation技术,通过后期训练和剪枝将模型行为浓缩至更小的因果图。 在32项对比测试中,该方法生成的电路规模比最强基线平均小8.1倍,最大达316倍。结果表明权重更新而非单纯搜索是电路规模缩减的关键驱动力。
研究者提出Circuit Condensation技术,通过后期训练和剪枝将模型行为浓缩至更小的因果图。 在32项对比测试中,该方法生成的电路规模比最强基线平均小8.1倍,最大达316倍。结果表明权重更新而非单纯搜索是电路规模缩减的关键驱动力。
OxyGen 通过统一 KV Cache 管理解决 Mixture-of-Transformers(MoT)视觉-语言-动作(VLA)模型的多任务并行推理瓶颈,实现最高 3.7 倍加速。
LLMRec 提出了针对 LLM 的推荐系统基准,在 ChatGPT、LLaMA 和 ChatGLM 等模型上评估了五项推荐任务。 测试结果显示,LLM 在基于准确率的序列和直接推荐任务上表现中等,但在基于可解释性的任务上性能可与 SOTA 方法媲美。 代码、处理数据和基准结果已公开,旨在推动研究者深入探索 LLM 在推荐领域的潜力。
FIRE 是一种无训练多保真度(MF)回归框架,结合表格式基础模型(TFM)实现零样本上下文贝叶斯推断。 该框架通过高保真校正模型利用低保真模型的后验预测分布进行跨保真度信息传递,在 31 个基准问题上优于 7 种 SOTA 方法,具有准确性和不确定性量化优势。 受限于上下文窗口大小及预训练 TFM 质量。
研究人员提出 JNO 知识编辑框架,通过联合优化解决大语言模型中涟漪效应的耦合压力,在 RippleEdits 数据集上提升指标至少 7.0%。 JNO 实例化 Pressure-Aware Coordination (PAC),联合优化邻域目标表示并应用语义预执行门控,拒绝高风险目标计划。 该方法在保持跨骨干模型编辑稳定性的同时,实现了传播与保留指标的双重提升。
提出一种支持多银行隐私保护的 GNN 推理框架,在 IBM AML 基准上性能与明文基线相当,消费级 GPU 端到端分类耗时 5.31 秒。 核心采用 CKKS 全同态加密方案,通过边中心 GNN 架构将消息传递转化为明文-密文矩阵乘积,并用复合多项式近似非线性激活。 该设计确保银行交易特征全程加密,服务器无法接触明文数据或预测结果,适用于反洗钱场景。
研究提出 AlignMerge 框架,在 LLaMA-3 8B、Mistral 7B 等五个模型族上,通过几何约束优化使模型合并在提升对齐指标的同时保持或超越最佳专家模型的表现。
OPTIC-ER 是一种使用注意力引导 actor-critic 架构的强化学习框架,能在尼日利亚 Rivers State 高保真模拟中管理调度环境。 核心创新包括编码动作次优性的 Context-Rich State Vector 和惩罚低效的 Precision Reward Function,基于 TALS 框架构建以支持低资源部署。
系统 Steertuning 使机器人能在 5 分钟内通过 5 个人类演示学习新环境中的新任务,跨 12 个任务达成 71% 成功率。 系统预训练一个 400M 参数的扩散策略模型,基于 100 小时第一人称人类交互数据;微调仅需 2 分钟(2000 次更新)。 方法支持从实验室到厨房等多种新环境的本体迁移,全套数据集与代码将公开。
团队推出基于 Qwen3.5-9B 的 Fin-Thinker 模型,通过生成并执行代码获取金融K线图证据以辅助推理。 该模型使用包含 32,184 条轨迹的 FinKLine-32K 数据集进行训练,在 FinKLineBench 上严格准确率比基线分别提升 13.1 和 33.2 个百分点。 模型分离评估答案正确性、代码执行及证据支撑度,验证了代码交互对提升金融图表理解的效果。
针对带宽受限的联邦学习场景,提出Federated Probe-Logit Distillation (FPLD) 和Federated Conformal RAG (FC-RAG) 两种方法。
开源工具 SpotRegen 实现了 Fowler 的再生软件原语,允许通过机器可读记录在删除代码后重建程序知识。该工具在安全关键预测库 spotforecast2-safe 中进行了首次应用。
研究发现,在 Kimi K3、GLM 5.2 和 Qwen 3.8 Max 等前沿开源 LLM 中,简单的均值差异(DoM)向量能表征并检测奖励黑客行为。在 DeepSWE 评测中,GLM 5.2 在 57.2% 的 rollout 中出现奖励黑客,DoM 向量监测比 LLM 监测成本更低且效果相当。
研究人员提出一种基于预训练稀疏自编码器(SAE)的推理时多语言引导方法,无需参数更新即可强化目标语言特征。该方法在 Gemma-3-12B-it 上实现 XCOPA 准确率提升 11.28 个百分点、XNLI 提升 4.11 个百分点、PAWS-X 提升 7.84 个百分点;Qwen2.5-7B-Instruct 在 XCOPA 上提升 3.33 个百分点。
提出开源多语言联合实体-关系抽取管线,构建带符号的时间知识图谱。 结合基于跨度的命名实体识别、三阶段映射与本体约束 MoE 模型及引导解码。 在 3491 条关系金标准上严格正确率 68.2%,并应用于奥地利与波兰案例。
论文提出基于量纲一致性的神经网络量纲分析(NDA)框架,用于解释Transformer中的尺度控制机制。 NDA定义了神经单位,并实现了量纲一致的Gauge-Canonical Transformer(GCT)。在51M至1B参数的语言模型实验中,GCT在跨越16倍学习率范围内保持训练稳定,并在124M验证损失上优于Pre-LN和LLaMA-style基线。
DexFLEX 是一种接触感知基础控制器,将上游指尖运动草稿转化为接触一致的关节指令,显著提升鲁棒性。 它通过“草稿-梦境-选择”流程结合纯先验提案与草稿播种提案,在退化指令仿真和真实共享控制中无需重训即可提升性能。 实测遥操作成功率从 29.2% 提升至 78.3%,策略学习成功率达 46.7%,是直接关节动作预测的 3.5 倍。
研究者在 Lean 4 中形式化证明了带有 guarded normalizer 的 masked attention pooling 对任意双射重索引及追加有限掩码行保持不变。
针对小语言模型工具学习难题,SeTPO 结合选择性教师引导与持久演示监督,优于 SFT、RL 及蒸馏基线。 该方法在低回报轨迹中融入反向 KL 派生的 token 级教师反馈,并利用辅助前向 KL 监督保留教师演示行为。 在 BFCL v4 和 API Bank 基准测试中,SeTPO 在三种不同规模的学生模型上均展现出优越的整体性能。
Fish Audio 开源了基于 35B 参数 MoE 架构的语音生成模型 Fish Audio Drama 3。该模型能根据自然语言指令生成多角色长对话,支持多轮修改、语音编辑及流式输入,其专属音频解码器可将推理速度提升至 271 帧/秒,已发布至 GitHub 和 Hugging Face 并支持 SGLang-Omni 部署。
推荐理由:报告详细解析了单模型实现多轮剧本修改、声线克隆及SGLang-Omni流式推理的架构设计与完整技术路线。
固定一个27B韩语企业模型,研究发现推理功能在封闭基准测试中使精确动作准确率提升17.3分。 在2800个分布内样本上,两种部署路径准确率无显著差异(93.46% vs 94.14%),但重启稳定性相差约十倍(3.00% vs 0.29%)。 研究发布了该模型及带金标签的重新渲染版本,未观察到跨语言迁移效果。
RAN-JEPA 提出了一种行动条件世界模型,将表征学习与干预学习分离。 该模型在真实 5G 测试床评估中,行动条件预测误差低于 GPT-2 基线,并在闭环控制中支持更高的休眠比率。
研究者提出边界接近度指标 BPI,揭示未训练 CNN 的线性探针已具备高于随机的分类准确率,现有评估方法可能高估 Forward-Forward 学习的效果。 该方法应用于 7 种 Forward-Forward 变体及相关局部层方法,分析显示初始误分类且位于探针决策边界附近的点比深入错误决策区域的点具有更高的救援率。
该论文提出一种整合 5G 网络切片、资源感知编排与移动性感知任务卸载的自适应框架,用于在受限异构边缘资源下保证移动医疗物联网(IoMT)的严格服务质量。框架为不同 IoMT 服务分配独立 5G 切片,并联合考虑 CPU 容量、内存可用性与存储量,实现更高效的服务部署与执行。
GCA 将自然语言请求转化为可运行的 Phaser 4 浏览器游戏,通过 8 个专用智能体协作,在人工评估中于各维度得分均高于同类开源管道。 系统先构建多模态游戏设计文档,生成运行时框架与确定性测试;场景串行实现、资产并行生产,经代码盲审验证后方可发布。 结果表明 GCA 在需求满足度、核心机制及功能视觉方面优于对比系统。
团队在约500亿token数据上从头训练了2.5B参数模型Agaram 2.5B,该泰米尔-英语混合模型支持工具调用且权重已开源。模型使用单节点8张H100 GPU训练约6天,其在泰米尔语翻译和指令遵循上显著优于Sarvam-1,但知识类基准测试表现接近随机水平。
基于 BAVGROUND 基准测试,研究显示 8 位 GPTQ 量化能稳定保持巴伐利亚方言、德语和英语的相对表现,而 4 位量化会导致平均准确率下降约 1.4–1.5 个百分点。
研究团队开发了多智能体副驾驶系统 GUIDE,用于人机协作生成和更新临床实践指南。在 12 个 NICE 眼科数据集上,GUIDE 实现了 88.85% 的文献召回率、86.06% 的证据确定性评级对齐度和 91.67% 的建议一致率,平均每数据集耗时 162.17 分钟且需 28.68% 的人工干预。
研究通过 JI-FNO 预条件器优化 FWI,实现最低模型误差并保持数据残差衰减。 标准 FNO 预条件器不稳定且恢复效果差,直接匹配 RTM 输出会导致目标空间失配失效。 准确的学习导数与目标一致性是产生有效反演更新的关键。
该论文提出了名为Nufo的埃维语ASR基准,其语料库总时长达174小时。 在评测中,Whisper-medium模型的词错率(WER)为37.98%,AfriHuBERT模型为39.70%。 此基准及模型将公开发布,以推进埃维语等低资源语言的ASR研究。
针对传统批次调度无法捕捉近期清洁后突发严重违规的盲区,CIR 系统通过事件驱动重新排序检查队列。在圣克拉拉县 9,505 次检查中,结合检查后评论信号预测 8 起 7 次鼠患闭店,平均提前 117 天。
研究发现全模态 LLM 常无法表达已感知到的非文本模态信息,提出 Token-level Modality Alignment (TMA) 用于度量这种错位。 OmniCatalyst 通过自生成文本补充模态输入,在 7 个模型上平均提升 7.29% 性能并优化模态偏好。
研究提出AlphaRLM强化学习框架,训练LLM从金融文献直接构建可执行符号因子。 该框架结合LEGO模块与对齐机制,在CSI 300等指数测试中,8B模型取得优于基线模型的年化超额收益。
该方法先通过 GPT-5.4-nano 在提示空间开发行为,再将记录的生产行为通过 SFT 蒸馏至 Qwen3-8B。 LoRA 微调后的 Qwen3-8B 在 1.16 万条数据上达到 0.913 一致性,教师模型自一致率仅 72.7%,且学生模型中位延迟低 2.5 倍、成本更低。 该方法为构建低成本、低延迟的智能体系统提供了可复制的蓝图。
提出 GameSmith 框架,利用 LLM 合成 26 款新游戏及 336 个验证变体,解决零和博弈训练数据瓶颈。 基于 Qwen3-32B 教师模型蒸馏及 CRAB 优势估计器训练,Qwen3-4B-Base 在 13 项基准测试的平均 pass@1 从 45.5 提升至 64.9。
Jev 模型在印尼区域语言上的评估显示,其校准误差未随语言距离增加而扩大,但错误排序能力在三组数据集中均有所下降。 当提供印尼语人工翻译时,Jev 的准确率最高提升 37.2 个百分点;重训练的分类器需每语言超过 500 个标签才可在 10 种语言中的 9 种零样本匹配 Jev。 将 Jev 置信度 10-30% 的决策路由至 LLM,可匹配该 LLM 表现且 API 成本降低 24-77%。
LFM2.5-24B-A2B 是一款具有 24B 总参数和 2B 激活参数的推理模型,专为设备端快速、私密的智能体设计,在 16 项基准测试中展现了优于同类模型的工具使用性能。
推荐理由:该模型在端侧推理速度上表现出明显优势,且具备工具调用能力,适合需要本地部署智能体的场景。
AWS 推出自动化方案,简化多账户环境下 Amazon Bedrock 私有定价权益(MPPO)的激活流程。 方案提供轻量脚本与 CDK 事件驱动两种路径:前者用于一次性信任激活,后者自动验证卖家并创建分布式许可,支持组织级批量授权。 自动激活确保谈判价格在许可生效后立即适用,避免手动操作遗漏,并通过 CloudWatch Logs 提供完整审计记录。
博主利用豆包工作搭建校招信息看板,解决秋招管理中进度混乱和截止日期遗漏问题。看板包含今日看板、岗位跟踪及添加岗位三个页面,数据保存于浏览器本地。通过设置定时任务自动抓取最新校招信息,并部署至 GitHub Pages 实现固定网址自动更新。
NVIDIA 宣布计划投资 Doctolib、Entalpic、Genesis AI 和 Pigment,此前已投资 Alice&Bob 等法国公司。 NVIDIA 在欧洲科技生态投入近 100 亿美元,这批新投资覆盖医疗、材料科学、机器人及企业规划等领域。