跳到正文
10月30日周五
  1. Qoder43

    高德地图通过 Qoder CLI 在钉钉群部署三个 Agent 机器人实现工作流嵌入实践

    高德地图将 Qoder CLI 接入钉钉群,构建需求、报警、代码审查三个 Agent 机器人,消除人工转述背景与搬运结果的环节。 技术架构基于 cc-connect 与 MCP 协议,五周内业务机器人完成 271 次 CodeReview,其中 25% 结论为需修复或阻断的 P0/P1 问题。 该实践验证了 Agent 嵌入即时通讯工具以获取上下文的有效性,成为团队日常研发流程的固定环节。

  2. 可灵AI49

    Kling 4.0 API 开放,赋能影视、广告及具身智能多行业应用

    可灵AI于10月28日面向全球企业客户与开发者开放Kling 4.0 API,支持将视频生成能力接入自身产品与工作流程。 API具备全能参考、多关键帧控制及30秒原生直出能力,覆盖影视分镜、广告素材、游戏动态展示及多机器人协作场景可视化等应用。 该能力帮助企业和AI创作平台降低制作时间成本,提升画面稳定性与角色一致性,推动视频生成在各行业实际业务流程中的落地。

  3. arXiv · ML28

    Delta-Matching 弥合大语言模型原生 8 位训练的最后一道鸿沟

    提出 Delta-Matching 方法,解决 FP8 注意力前反向不一致导致的陈旧梯度问题,使 LLM 原生 8 位训练匹配 BF16/FP32 精度。 证明该方法恢复 softmax 梯度零行和不变量,无需架构修改或更小全局批次即可在块缩放 FP8 下运行。 在 1.67B 和 5.29B 模型上验证性能,消除下游任务性能退化,并计划开源实现、模型及数据配方。

  4. arXiv · ML24

    MiCoPro:基于硬件感知代理模型的端到端混合精度软硬件协同设计

    MiCoPro 框架引入硬件感知代理模型(HAP),实现从 PyTorch 模型到裸机 C 代码的快速探索与直接部署。 在 BitFusion 加速器和 SIMD 扩展 RISC-V 处理器上验证,该框架实现了高达 40% 的延迟降低,同时精度损失控制在 3% 以内。 该框架解决了现有混合精度量化(MPQ)方案灵活性不足及缺乏端到端部署工具的问题。

  5. arXiv · ML23

    Fed-IGTD:基于联邦学习的表格转图像编码框架

    提出联邦学习框架 Fed-IGTD,通过共享特征空间与本地统计实现隐私保护下的表格转图像编码,避免中心化数据泄露风险。 采用 FedAvg 更新全局模型,引入两种差分隐私机制保护相关性聚合与训练过程;在 5 个数据集上评估显示,映射构建阶段的隐私保护对预测性能影响微小,但中等隐私预算下 DP-FedAvg 显著降低效用。

  6. arXiv · ML45

    CACPU:面向 CPU 因果注意力的高性能调度内核

    CACPU 是一款支持因果全序列预填充的高性能 CPU 注意力内核,通过分层缓存阻塞和内核内任务分发实现高效调度。 CACPU 较 PyTorch SDPA、FlexAttention 和 SGLang 内核实现最高 2.01 倍加速。 集成至 SGLang 后,Llama-3.1-8B 的 TTFT 最多降低 1.74 倍,且保持模型精度不变。

  7. arXiv · AI20

    LLM 解码阶段能耗特征研究:跨注意力架构的相位感知分析

    研究揭示 LLM 服务中功率限制对主导的自回归解码阶段几乎无效,解码耗时远低于 H200 GPU 700W 额定的 50%。 在 vLLM 环境中测试 GQA、MLA、Gated DeltaNet 和 Mamba2 四种架构,锁频策略可在几乎不损失吞吐量的前提下回收 32% 解码能耗。 该成果已被 PPAM 2026 会议接收,为优化 LLM 服务能效提供了新的架构指导。

  8. arXiv · AI20

    使用 LSTM-beta-VAE 生成式数据增强的多输出 LSTM 软传感器用于工业厌氧协同消化

    该研究提出结合 LSTM-beta-VAE 生成式数据增强框架与多输出 LSTM (MO-LSTM) 软传感器,用于解决工业厌氧消化中数据稀疏问题。 基于一年全规模工厂数据合成物理有效的不稳定过渡序列,MO-LSTM 实现了对稳定性指标的稳健同步估计,弥补了随机森林和标准 LSTM 的不足。 该方法为混合机理-数据驱动建模及工业生物过程早期预警软传感器提供了基础。

  9. arXiv · AI23

    LLM 预填充与解码阶段计算时间与能耗预测研究

    针对 LLM 智能体工作流中大量输入上下文的能耗估算难题,研究通过广义线性模型系统剖析了不同 token 长度下的性能。结果显示解码阶段计算时间与输出长度呈线性扩展,而预填充阶段则随输入长度呈现线性及二次扩展特征。该框架确立了计算时间作为能耗可靠代理指标的有效性,并支持更可持续的 AI 部署决策。

  10. arXiv · NLP28

    单GPU 70B LLM推理预算感知压缩管道:方法、权衡与耦合效应

    研究提出单GPU LLM推理预算感知设计框架,验证了70B模型在单张A40 GPU上的压缩部署。 通过分层剪枝增强权重量化鲁棒性,结合KV缓存稀疏化与INT8量化,将模型压缩至33 GB,10k token提示词下持续输出约57 tokens/s。 精度在常见及推理基准测试中保持绝对误差5%以内,为单GPU约束下的自动管道搜索提供基础。

  11. arXiv · NLP21

    FAD-KV:面向高效推理解码的自适应字典 KV 缓存

    FAD-KV 提出了一种快速自适应字典 KV 缓存框架,旨在通过解决现有方法的解码开销与静态字典失配问题,提升长输出推理效率。 该框架结合基于筛查的稀疏编码(Top-n 选择与系数细化)和固定大小的字典适应机制,通过复用非活跃原子来避免字典无限增长。 在推理和长上下文基准测试中,该方法实现了质量与效率的平衡,确保了内存有界且计算高效。

  12. arXiv · NLP20

    MDraft 通过多草稿策略提升扩散生成器在推测解码中的接受长度

    MDraft 提出一种新的并行生成器蒸馏方法,通过从相同上下文采样多个草稿块并聚合验证器的全词表条件分布,解决了并行生成导致的验证反馈不匹配问题。 该方法仅改变训练过程,保持生成器架构和推理流程不变,可直接替换预检查点使用。 在数学、编码和对话任务上,MDraft 训练的并行生成器比先前蒸馏方法实现了更长的接受草稿长度,提高了推理效率。