Qoder 连接能力升级,支持同一局域网内桌面端互联
Qoder 升级连接能力,支持同一局域网内桌面端互联。用户可在常用 Qoder 客户端中直接连接其他设备,安排任务并查看进度,无需 SSH 配置或远程桌面切换。 设备间通过配对码连接,支持同步会话和远程更新,并可直接预览远端生成的 PPT、Excel 等文件。
Qoder 升级连接能力,支持同一局域网内桌面端互联。用户可在常用 Qoder 客户端中直接连接其他设备,安排任务并查看进度,无需 SSH 配置或远程桌面切换。 设备间通过配对码连接,支持同步会话和远程更新,并可直接预览远端生成的 PPT、Excel 等文件。
高德地图将 Qoder CLI 接入钉钉群,构建需求、报警、代码审查三个 Agent 机器人,消除人工转述背景与搬运结果的环节。 技术架构基于 cc-connect 与 MCP 协议,五周内业务机器人完成 271 次 CodeReview,其中 25% 结论为需修复或阻断的 P0/P1 问题。 该实践验证了 Agent 嵌入即时通讯工具以获取上下文的有效性,成为团队日常研发流程的固定环节。
Epoch AI 发布 AI 芯片进口估算平台,基于 16 个主要进口国的海关数据,估算 2022 年至 2026 年 6 月各国家和地区抵达的 AI 算力总量,以 H100 等效(H100e)、芯片数量和贸易金额三种口径呈现。
可灵AI于10月28日面向全球企业客户与开发者开放Kling 4.0 API,支持将视频生成能力接入自身产品与工作流程。 API具备全能参考、多关键帧控制及30秒原生直出能力,覆盖影视分镜、广告素材、游戏动态展示及多机器人协作场景可视化等应用。 该能力帮助企业和AI创作平台降低制作时间成本,提升画面稳定性与角色一致性,推动视频生成在各行业实际业务流程中的落地。
面壁智能今日启动 ForgeKernel 演示,Agent 在 10 小时内性能超越 DeepSeek V4.1-FlashMLA Prefill 算子的 FlashMLA 基准水平。 预计明日直播结束前,其性能还将继续爬升。
tiny-llm 是一款针对系统工程师的 LLM 推理实战课程,利用 Apple Silicon 和 MLX 构建 Qwen3-4B 模型推理路径。 课程分为四周:搭建 Qwen3 模型、优化单请求性能、构建 Mini vLLM 调度系统、开发 Coding Agent。使用 Python 或 Metal 实现算子,无需高层神经网络库。
阿里 Qoder 上线桌面端互联功能,支持通过设备配对连接另一台运行 Qoder 的设备,用户可在常用客户端中发起远端任务并预览 PPT、Excel 等生成结果。
inclusionAI 开源扩散语言模型并行树形推测解码方案 UBTree,在 Qwen3-8B 上实现平均 6.94× 加速,并在 Ling3-Flash-124B MoE 模型上取得 3.43× 平均加速比。
腾讯正以东南亚为海外起点,推广主打“高性价比”的 AI 工具,核心产品为职场助手 WorkBuddy。 目标市场包括印尼等地区的现有云客户。国内激烈的竞争正推动中国 AI 企业出海,价格是其核心卖点。
Tokyo Electron 公布的年度业绩展望超出市场预期,表明芯片制造商正加速支出以满足 AI 硬件需求。 作为 AI 交易的上游环节,设备制造商订单强劲意味着芯片产能计划稳固,抵消了部分市场对相关风险的担忧。
SoMark 团队发布开源文档解析模型 OXR(1.3B 参数),在 OmniDocBench、olmOCR-Bench 和 DocParsingBench 三大基准上均取得第一名,其中 OmniDocBench 得分 97.18。
推荐理由:1.3B 模型凭借 RSI 训练范式在三大基准登顶,展示了低成本实现高精度文档解析的路径。
亚马逊公布 2026 年第三季度财报,总营收 2019.44 亿美元,AWS 营收 460.02 亿美元同比增长 39.3%,积压订单达 5780 亿美元。公司预计 2026 年资本开支约 2200 亿美元,主要投向 AWS,过去 12 个月自由现金流净流出 424 亿美元。财报发布后盘后股价下跌 7.3%。
扩散模型服务系统 FlashDiff 提出自适应区域执行与调度,降低推理延迟。 该系统将潜变量分解为区域,通过轻量控制器跳过低影响更新,并利用亲和性感知调度器平衡负载。 在图像、视频和音频任务中,其端到端延迟降低 30-97%,吞吐量提升 1.2-2.2 倍。
提出 Delta-Matching 方法,解决 FP8 注意力前反向不一致导致的陈旧梯度问题,使 LLM 原生 8 位训练匹配 BF16/FP32 精度。 证明该方法恢复 softmax 梯度零行和不变量,无需架构修改或更小全局批次即可在块缩放 FP8 下运行。 在 1.67B 和 5.29B 模型上验证性能,消除下游任务性能退化,并计划开源实现、模型及数据配方。
MiCoPro 框架引入硬件感知代理模型(HAP),实现从 PyTorch 模型到裸机 C 代码的快速探索与直接部署。 在 BitFusion 加速器和 SIMD 扩展 RISC-V 处理器上验证,该框架实现了高达 40% 的延迟降低,同时精度损失控制在 3% 以内。 该框架解决了现有混合精度量化(MPQ)方案灵活性不足及缺乏端到端部署工具的问题。
Rimuru 提出一种现代 LLM 服务系统,通过弹性专家卸载统一异构张量的内存管理。 其核心机制包括共享页面池、内存视图、多级页面分配器以及页面表感知融合 MoE 内核,实现跨类型容量复用。 基于 vLLM 实现,评估显示其吞吐量最高提升 19.03 倍,TTFT 平均降低 98.1%。
Google Cloud Dataflow 推出针对 LLM 混合流处理负载的系统,通过异构工作池自动扩展和前缀感知批处理,将吞吐量提升 1.5 至 2 倍。 该系统在保持类似延迟的同时,实现高达 75% 的峰值资源节省,并将峰值尾部延迟降低 84%。
提出联邦学习框架 Fed-IGTD,通过共享特征空间与本地统计实现隐私保护下的表格转图像编码,避免中心化数据泄露风险。 采用 FedAvg 更新全局模型,引入两种差分隐私机制保护相关性聚合与训练过程;在 5 个数据集上评估显示,映射构建阶段的隐私保护对预测性能影响微小,但中等隐私预算下 DP-FedAvg 显著降低效用。
CACPU 是一款支持因果全序列预填充的高性能 CPU 注意力内核,通过分层缓存阻塞和内核内任务分发实现高效调度。 CACPU 较 PyTorch SDPA、FlexAttention 和 SGLang 内核实现最高 2.01 倍加速。 集成至 SGLang 后,Llama-3.1-8B 的 TTFT 最多降低 1.74 倍,且保持模型精度不变。
论文提出免训练KV选择方法Focused Forcing,在多个自回归生成范式下实现最高1.48倍端到端加速,同时提升视觉质量与文本对齐效果。 该方法通过结合注意力分数与历史帧多样性分数进行内容感知逐帧选择,并依据估算的头部重要性分配预算。
研究揭示 LLM 服务中功率限制对主导的自回归解码阶段几乎无效,解码耗时远低于 H200 GPU 700W 额定的 50%。 在 vLLM 环境中测试 GQA、MLA、Gated DeltaNet 和 Mamba2 四种架构,锁频策略可在几乎不损失吞吐量的前提下回收 32% 解码能耗。 该成果已被 PPAM 2026 会议接收,为优化 LLM 服务能效提供了新的架构指导。
RPS-Serve 是一种模态感知调度框架,通过“岩石-鹅卵石-沙子”抽象解决多模态推理中的异构干扰。 该系统利用轻量级聚类将请求分类,并采用基于老化技术的优先级调度,相比分解式系统在平均性能上提高 GPU 利用率 65%,降低 TTFT 高达 9.3 倍。
在 PhysioNet 2012 和 MIMIC-IV 数据集测试中,该方法显著提升各项指标,其中神经系统功能障碍的 PR-AUC 从 0.461 提升至 0.557。 源代码将在论文被正式接收后公开发布。
提出基于 Fisher 近似 Hessian 指导的后训练量化框架,联合优化量化范围、线性变换及权重舍入。 该方法在通道级和块级量化设置下均优于现有最先进转换与舍入方法,适用于现代大语言模型。 该框架通过输出敏感性目标解决量化操作不连续带来的优化挑战。
研究在 H100 和 H200 GPU 上实测推测解码能耗,发现密集模型中验证而非起草主导能量成本。 随着批处理量增大,推测解码的能耗优势缩小;高批处理下低接受率甚至导致能耗增加,仅在高接受率时才能兼顾延迟与能效。
该研究提出结合 LSTM-beta-VAE 生成式数据增强框架与多输出 LSTM (MO-LSTM) 软传感器,用于解决工业厌氧消化中数据稀疏问题。 基于一年全规模工厂数据合成物理有效的不稳定过渡序列,MO-LSTM 实现了对稳定性指标的稳健同步估计,弥补了随机森林和标准 LSTM 的不足。 该方法为混合机理-数据驱动建模及工业生物过程早期预警软传感器提供了基础。
OPERA 推理智能体利用开源工具,自主完成 CMOS 运放从设计规格到版图签核的全流程。 该智能体基于 gm/ID 方法生成电路,并编写可复用的版图生成器以通过 DRC 和 LVS 检查。 在 SKY130 工艺下,设计的六款运放版图均满足提取网表在 15 个 PVT 角下的性能指标。
Formulaic 框架通过语言模型智能体优化 AI 基础设施的软硬件协同设计。在 NVIDIA GB10 上,智能体编写的模板使 Qwen3-8B 层运行速度较 SGLang 提升 1.075 倍。 模拟 Ventus GPU 研究显示,联合设计将 Qwen2.5-0.5B 的最坏情况周期降至参考值的 0.428 倍。
TableTune 通过计时解码步骤计算并动态自校正 vLLM 的草稿长度表,以最大化吞吐量。在 H100 上使用 EAGLE-3 drafter,其最坏情况损失率为 3%,优于 TurboSpec 和 Nightjar 的 9% 和 12%。 从初始错误配置开始,该控制器最多可将吞吐量提升 58%,在 Qwen3-32B 部署中比固定草稿长度快 32%。
针对前沿 LLM 在稀缺 NPU 上准确率崩溃的问题,该研究在 FuriosaAI RNGD NPU 上运行 LLM 多智能体循环,12 天内优化 3 个 Gemma-4-12B 解码内核。
针对 LLM 智能体工作流中大量输入上下文的能耗估算难题,研究通过广义线性模型系统剖析了不同 token 长度下的性能。结果显示解码阶段计算时间与输出长度呈线性扩展,而预填充阶段则随输入长度呈现线性及二次扩展特征。该框架确立了计算时间作为能耗可靠代理指标的有效性,并支持更可持续的 AI 部署决策。
LRMoE 提出内存感知的 MoE 训练系统,通过联合校准反向需求与平衡保留工作负载,在内存受限节点上实现高效训练。 在 Qwen3-30B-A3B 和 GLM4.5-106B-A12B 模型上实验表明,该方案使累积 MoE 层达到固定损失目标的训练时间较 SYMI 减少 21.2%-44.8%。
提出基于艺术强化训练(ART)的方法,通过优化单一辅助输入图像使冻结的多模态大语言模型(MLLM)适配特定任务,推理时仅需在提示词中包含该图像,无需修改服务引擎。
BrainSurgery 提出一种声明式 YAML 方案,统一管理模型合并、精度转换和矩阵分解等权重编辑操作,内置验证、比对和分片导出功能,并提供 Web 界面支持交互式检查与计划构建。
研究提出单GPU LLM推理预算感知设计框架,验证了70B模型在单张A40 GPU上的压缩部署。 通过分层剪枝增强权重量化鲁棒性,结合KV缓存稀疏化与INT8量化,将模型压缩至33 GB,10k token提示词下持续输出约57 tokens/s。 精度在常见及推理基准测试中保持绝对误差5%以内,为单GPU约束下的自动管道搜索提供基础。
研究指出当前预填充解码长度预测基准混淆了预测器质量与任务难度,当目标模型、数据集或采样配置改变时,预测器准确度会崩溃。分析将解码视为停止随机过程,推导出每提示词正态性误差项及仿射方差定律 $\sigma=\alpha\mu+b$。
Raincheck 提出延迟多模态预填充框架,在生成期间利用空闲算力预填充被剪枝 token,解决长多模态输入导致的 TTFT 增加问题。该框架结合注意力可见性控制与仿射状态映射,使 Qwen3-VL-8B 和 Qwen3.5-9B 在多轮对话中恢复平均 77.7% 的 MultiVerse 任务质量,且首轮 TTFT 降低 24.1%。
FAD-KV 提出了一种快速自适应字典 KV 缓存框架,旨在通过解决现有方法的解码开销与静态字典失配问题,提升长输出推理效率。 该框架结合基于筛查的稀疏编码(Top-n 选择与系数细化)和固定大小的字典适应机制,通过复用非活跃原子来避免字典无限增长。 在推理和长上下文基准测试中,该方法实现了质量与效率的平衡,确保了内存有界且计算高效。
MDraft 提出一种新的并行生成器蒸馏方法,通过从相同上下文采样多个草稿块并聚合验证器的全词表条件分布,解决了并行生成导致的验证反馈不匹配问题。 该方法仅改变训练过程,保持生成器架构和推理流程不变,可直接替换预检查点使用。 在数学、编码和对话任务上,MDraft 训练的并行生成器比先前蒸馏方法实现了更长的接受草稿长度,提高了推理效率。
亚马逊公布 2026 财年第三财季报告,营业总收入 2019.44 亿美元,同比增长 12%;净利润 206.85 亿美元,同比下降 2.37%。本季营业利润达 280.76 亿美元,营业利润率 13.9%,创下历史最高纪录,主要受去年同期大额投资非经营性收益的高基数影响。