Sentence Transformers 支持 Token 池化感知训练,提升多向量检索效率
使用 Sentence Transformers 进行 token 池化感知训练,使模型在 4 倍存储压缩下 NanoBEIR nDCG@10 保留率从 94.6% 升至 97.8%。 该方法基于 Ward 层次聚类合并相似向量,支持按长度自适应压缩,显著优化多向量模型的存储效率与检索质量。
使用 Sentence Transformers 进行 token 池化感知训练,使模型在 4 倍存储压缩下 NanoBEIR nDCG@10 保留率从 94.6% 升至 97.8%。 该方法基于 Ward 层次聚类合并相似向量,支持按长度自适应压缩,显著优化多向量模型的存储效率与检索质量。
当前企业最大 AI 成本削减措施是云服务商折扣,虽降低单价但不减用量。Prompt caching 可节省约 85% 输入成本,批量 API 价格为标准费率的一半。 Agent 任务高频调用导致 token 量激增,即使单价下降账单仍增长。小模型处理常规工作比前沿模型更具性价比。
Lokey 是一款支持本地AI预测、语音识别和翻译的Android原生键盘,所有模型在手机端运行。它支持 39 种语言和 11 种键盘,提供约 230 MB 的 LFM 2.5 和 533 MB 的 Qwen 3.5 等本地小模型。应用采用本地私有存储处理数据,无需账号、订阅或连接推理服务。
SPECTRA 发布了一款架构无关的 4-bit LLM 压缩引擎与实时 GPU 推理运行时,支持在 4GB 至 8GB 显存的消费级设备上本地运行。在 4GB 显存的 NVIDIA RTX 3050 Ti 笔记本 GPU 上,冷启动加载耗时 1.5s 至 3.8s,且主机内存占用低于 50 MB。
研究探索 Qwen2.5-0.5B 和 3B-Instruct 中的情感向量方向,发现仅基于情感探测在二进制 TweetEval 上分别达到 88.66% 和 90.70% 准确率。
针对健康领域 AI 智能体结论综合能力的未知,研究提出 9.21K 问题的 SciConBench 基准,并配套 SciConHarness 隔离环境以防止数据泄露。 在清洗后的评估中,前沿模型表现不佳,最佳智能体事实 F1 仅 0.337,远低于无约束环境下的估计。 研究还发现 Google AI Overview 等消费级产品常生成不完整甚至矛盾的结论,表明可靠科学综合仍面临重大挑战。
研究提出无模型架构获取状态遥测,通过双通道实时量化信息获取进展与摩擦。 固定因果监控器将原始观测映射至任务解决坐标,适用于搜救、机器人操作等八大领域。 强化学习实验表明,惩罚信息摩擦可维持高任务成功率,未惩罚策略无法完成任务。
研究提出以“位置性”取代“偏差”作为分析大语言模型的批判性语法,主张模型并非无位置发声,而是源自语料、微调及系统提示词等层积位置。 该框架分离了创造者位置、意图行为与实际行为三层,揭示了模型被赋予超越其凭证的信任及其问责机制,从而重新定义模型制作与解读的方式。
研究团队提出 MMDiff 框架,利用多模态稀疏自编码器对 LLaVA-MORE 等模型进行特征级控制。 移除特定特征可使空间任务性能平均下降 12%,OCR 下降 17%,多模态安全攻击成功率降低 24%。 该方法证明多模态 SAE 可作为审计和引导大语言模型行为、提升安全性的有效机制。
ForeSpark 提出保工作量推测(WCS)设计,在 vLLM 上实现原型。 其通过联合分配草稿与验证预算,吞吐量较 DSpark 提升最高 1.77x,较自回归解码提升 2.49x。 该框架在保持延迟 SLO 下,可承受比 DSpark 高 1.51x 的请求速率。
SlackTier 利用逐层预取截止时间将 DeepSeek-V4.1 的 Engram 查找表从 DRAM 移至 NVMe 或 RDMA,主机内存从 212 GiB 降至 34 GiB。
VLA 模型在 LIBERO 仿真基准中成功率超 95%,但研究表明检索邻近演示的动作块无需策略训练即可达到 91.7% 成功率。 kNN 检索在 LIBERO-Plus 扰动下性能下降最小,且微调主要优化视觉语言骨干作为检索键,而非提升动作泛化。 研究提出离线指标 Local Action Consistency (LAC),用于衡量观测一致性并指导检索键训练,代码与评估已公开。
ASPIRE 利用 LLM Agent 自动执行非线性系统辨识,从测量数据构建闭式模型。 在移动机器人等 3 个系统测试中,30 次运行全部生成有效模型,单次成本 0.96 至 3.38 美元。
研究揭示线性探针准确率混淆了可解码性、形状、归属及因果使用四项独立主张。 针对 GPT-J 6B、Llama 3.1 8B 和 Pythia 6.9B 的两位加法乘法实验发现,81% 的形状为继承而非独有。 该结果建议将探针结果报告为对四项主张的独立判定,而非单一准确率。
在 MiniMax 33B 图像模型上应用 pDMD LoRA 实现了两步实时图像编辑,并支持通过 ZeroGPU 使用。作者提供了 LoRA 权重及单文件 ComfyUI 检查点,开放了应用演示入口:https://huggingface.co/akhaliq/minimax-h3-image-pdmd-2step 和 https://huggingface.co/spaces/akhaliq/minimax-h3-image-2step。
Uncle 工具通过记录 Git 树哈希将代码审查、测试结果等 AI 证据绑定至特定代码版本,防止 Agent 在审查后修改文件导致证据失效。 其 `uncle verify` 命令可区分人工与 Agent 审批状态,直接读取退出码而非信任 Agent 自报结果,确保验证准确性。 该机制适用于本地工作流,弥补 GitHub PR 保护无法追踪本地 Agent 内部阶段证据的空白。
Z.ai 旗下桌面编码智能体 ZCode 在含 1700 多篇文章的仓库实测中,配合 GLM-5.3 发现死链、目录缺失与时区不一致等可用改进。GLM-5.3 具备 1M token 上下文窗口,在 Z.ai 的 Code Bench 上以 max 推理档取得 34.5% 得分,略落后于 Claude Fable 5 的 39.5%,但 token 消耗约为后者的 40%。
Flide 利用精确状态分叉加速决策推理 论文:https://huggingface.co/papers/2610.42148
作者探讨设计对齐 AI Agent 的挑战如何揭示人类心智运作机制。 引用 OpenAI 代理入侵 Hugging Face 事件,指出 AI 对齐风险已成现实问题。 结合进化论“盲钟表匠”隐喻,说明 AI 工程迫使设计者赋予 Agent 自主决策能力。
Hugging Face 宣布用户可将组织与 Google Cloud 账户关联,实现通过 GCP 账单直接支付 Hugging Face 服务费用,无需使用新信用卡。 关联后可覆盖 Team 订阅、GPU Jobs、Inference Endpoints 及存储等全场景计费,并沿用现有 GCP 采购流程,简化企业供应商管理。
Hugging Face 官方博客发布关于“决策模型”(decision models)的教程,解释这类模型如何通过评估预定义选项并输出概率分布来完成分类与决策任务,而非像大语言模型那样生成文本。
MiniMax 正式发布并开放权重,推出衍生自 H3 的图像生成模型 H3-Image,具备文生图、参考图和图像编辑能力。该模型在 10 秒内生成一张 4096 x 4096 像素(16MP/4K)图像,官方称其指令遵循能力最强且支持 16 张参考图,发布首周针对 16MP 及以上规格请求提供官方价格的五折优惠。
作者分析了OpenAI智能体在Hugging Face攻击和Navier-Stokes问题中的群体行为,指出信任是多智能体系统的新维度。
Google 在 Adobe MAX 上宣布扩展与 Adobe 的合作,将 Adobe 创意与生产力工具直接嵌入 Google Drive、Gmail 等日常应用中,同时把 Google 前沿 AI 模型引入 Adobe 应用。
Hugging Face首席政策官Irene Solaiman指出,开放AI平台因高开放性面临网络攻击威胁,开源社区正面临关闭风险。 近期OpenCode API密钥泄露、OpenAI智能体群侵入及Fireworks客户数据被窃取等事件凸显了基础设施安全风险。 行业正通过强化监控和收紧npm安全要求应对,但严格验证可能阻碍独立研究者参与开源社区。
Music For Robots 项目展示非量化音频嵌入可缓解自回归 LLM 的输出刻板化。 基准测试显示,无音乐对照组生成同质化叙事,而 3 组音频实验组输出显著多样且去情感化。 该方案通过引入跨模态物理视角,避免上下文压缩导致的状态丢失。
蚂蚁灵波开源LingBot-Touch触觉基础模型,基于近5000小时真实数据预训练,统一磁触觉、视触觉及压阻式信号为通用触觉Token。 模型提供约530万参数轻量版与Small版,支持26项真机测试;接入后任务成功率提高14至26个百分点,验证了触觉能力的跨硬件复用性。 该模型已在Hugging Face、GitHub及魔搭社区开放,旨在补齐机器人精细操作的触觉感知短板。
Wired 向 10 位 AI 安全专家提问,发现多数专家担忧 AI 导致的网络与生物攻击,而非单纯灭绝风险。 专家指出一部分 AI 实验室将模型集成进核武器运营,可能引发灾难性故障。另有观点认为 AI 安全定义正变得反民主,缺乏科学依据。
Wired记者Will Knight调查了去除开源模型安全护栏(abliteration)的亚文化社区及其背后的商业公司Abliteration AI。文中深入访谈了创始人Devon Thomas等人物,探讨了从Cypherpunk到AI去审查的技术理念演变。
推荐理由:作者通过亲历测试,展示了去审查模型在安全防御上的真实能力与失控风险,挑战了AI安全的主流叙事。
安全公司 Apiiro 的研究发现,Claude Code 的本地设置文件 .claude/settings.local.json 被超过 10 万份上传到公共 GitHub 仓库。
论文发布 LAION-BVD 开源视频数据集,包含8000万条视频,总时长达1350万小时,用于视频、音频及图像的多模态预训练。 数据集通过 CommonCrawl 爬取,利用内容感知场景检测提取片段并生成合成视频与音频字幕。 研究人员将开源该数据集,以大规模扩展多模态视频的公开访问范围。
论文提出 OraclePhys 框架,将答案形式设定为实验变量,以结构力学有限元基准评估 LLM 微调效果。研究发现排名监督比峰值标签更优,且匹配配方下 SFT 与 GRPO 性能差距仅 0.03。该 8B 模型在特定任务上性能超越前沿 LLM。
研究发现 Transformer 模型思维链(CoT)轨迹的有效维度 d_rho 能预测任务难度,在 Qwen2.5 模型上的 AUROC 达到 0.96。 研究在 MATH500 数据集的 86 道题上验证了 Qwen2.5 0.5B 至 7B 三个规模,七类运动学特征在生成 20% token 时即可预测正确性,AUROC 介于 0.77 到 0.88。
研究人员提出 CAPE 策略,通过定义基于预言机的 NOCT 目标并学习对比获取效用流形,在纵向主动特征获取中平衡预测损失与获取成本。 该方法在合成及真实医疗数据集实验中优于非参数、贪心及基于强化学习的替代方案,以更低成本实现更高准确率。 代码已公开,论文被 NeurIPS 2026 接收。
基于采样的规划器配合低比特世界模型时,舍入误差若在所有候选中共享且跨迭代持久,会导致成功率下降多达 100 分;在相同位宽下,使用每迭代重绘的共享抖动(dither)可消除大部分性能损失。
Moto隐式动作分词器训练极不稳定,两次独立运行对相同机器人片段的编码调整兰德指数仅为0.001,bf16与fp32精度差异导致74%的token重新分配。 研究者利用这种自由度,将猕猴初级运动皮层PMv的表示几何通过直通相似度损失施加于分词器。
WorldFoundry 开源统一了视频、3D/4D 及具身动作的推理与评测基础设施,包含 270 个模型和 74 个基准测试。 该系统通过显式清单将执行就绪与评估声明分离,支持可复现的跨系统对比,推动领域从感知合成转向可测量的世界智能。
研究提出能量水平分布距离(ELD),通过对比真实与合成图像的能量分布来审计合成数据,预测视觉预训练性能优于 FID 和 LPIPS。 ELD 能识别被传统指标忽略的分布失配,并指导合成数据重采样与混合,在匹配真实图像能量直方图的同时保留多样性以提升下游迁移效果。 该成果已被 NeurIPS 2026 接收为口头报告。
针对任意阶特征交互的神经网络,本文提出可计算可证明且充分的最小特征子集。 证明了常数阶交互下问题具有 $\Sigma_2^P$ 硬度,但在稀疏交互或强充分性设定下存在多项式时间算法。 所提方法比标准算法生成的解释更小、更快,且模型精度显著高于标准神经加性模型(NAM)。
研究团队发布了EEGFaceSem数据集,包含30名参与者的67,200条与生成式人脸图像配对的EEG记录。 该数据集提供生成潜向量,支持单试次语义分类及脑监督图像生成,代码已在HuggingFace开源。 这为语义级视觉显著性检测及脑机接口研究提供了新工具。