跳到正文
热点事件持续更新

BiLoCo 方法发布,采用二进制低秩修正提升 FP4 量化精度

1 篇报道1 个报道来源5 小时前更新

先了解这件事

AI 综述

2026 年 10 月 26 日,arXiv cs.lg 版块发布关于 BiLoCo 方法的研究报道。该方法旨在通过二进制低秩修正提升大语言模型在 FP4 后训练量化(PTQ)中的精度表现。 BiLoCo 的核心技术特点在于将低秩因子存储为二进制符号向量,这一设计使得每秩存储开销减少了 16 倍,并支持在 CUDA 核心上并行执行。该方案由 David Jin 等人提出,目前已开源算法及 B300 融合 kernel 实现。 在 4B 至 72B 规模的模型上,BiLoCo 的性能表现匹配或优于现有的 SVDQuant 方法,展示了其在不同参数规模下的有效性与竞争力。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月26日
  1. arXiv · ML
    BiLoCo 通过二进制低秩修正提升大语言模型 FP4 量化精度

    研究提出 BiLoCo 方法,使用二进制低秩修正改善大语言模型 FP4 后训练量化精度。 该方法将低秩因子存储为二进制符号向量,每秩存储减少 16 倍,并在 CUDA 核心上并行执行。在 4B 至 72B 模型上,BiLoCo 性能匹配或优于 SVDQuant。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。