讯飞输入法 16.0 发布第三代“意图成稿”功能
讯飞输入法 16.0 正式发布,推出第三代“意图成稿”AI 键盘功能。 该版本支持结合用户提供的信息自动整理汇报或计划,并具备“恋爱军师”等场景技能。 官方定位为专属表达伙伴,旨在帮助用户更高效地完成复杂信息输入。
讯飞输入法 16.0 正式发布,推出第三代“意图成稿”AI 键盘功能。 该版本支持结合用户提供的信息自动整理汇报或计划,并具备“恋爱军师”等场景技能。 官方定位为专属表达伙伴,旨在帮助用户更高效地完成复杂信息输入。
FedHQ 提出一种混合量化框架,根据客户端硬件和数据特征动态分配 PTQ 或 QAT 策略。 在三个图像分类数据集实验中,FedHQ 相比 FedAQT 实现最高 2.47 倍的训练加速,且比 FedFQ 准确度高出最多 11.15 个百分点。 该框架通过硬件速度估计和数据分布指标进行全局初始化,并经基于训练的细粒度调整优化,平衡了训练效率与模型精度。
受昆虫嗅觉系统启发,研究提出一种稀疏高维二进制表示的轻量神经网络架构。该网络仅使用数千神经元和亚毫瓦功耗,能基于传感器瞬态响应在线分类单气体和二元混合物。 实验表明,该架构在气体混合物分类上优于线性支持向量机,并与优化后的非线性支持向量机性能相当。 网络仅依赖二进制权重和赫布本地学习,适合超低功耗神经形态处理器,已在TEXEL芯片上以74.6%的准确率完成危险化学品检测验证。
针对嵌入式脑-机接口(BCI),提出鲁棒性约束框架 ORBITAL,结合硬件可实现的结构化压缩与 TRADES 方法。在 BCI Competition IV-2a 数据集上,压缩后的 EEGNet 模型在 9 名受试者中实现了 23.06% 的平均真实并集鲁棒性,参数量减少 26.27%,MACs 减少 25.10%。
CRISP 框架通过协同设计剪枝和运行时调度,在记忆受限的边缘平台上提升 MoE 推理效率。 该框架利用专家组合的频率偏差和不对称性,按重要性重排神经元,并对热点、温点和冷点组合执行差异化调度,实现专家加载与计算重叠。 在 Mixtral-8x7B 和 DeepSeek-MoE-16B 上,相同内存预算下吞吐量提升最高达 2.1 倍,精度损失控制在 3.6% 以内。
论文提出通信高效的分布式推测解码框架 DISCO,消除词表级分布传输开销。 服务器端引入草稿 SLM 副本以本地获取拒绝采样分布,仅交换 token 索引和标量概率。 在多个数据集上 DISCO 解码加速优于现有方法,尤其在低带宽环境下表现更优。
SkipCat 提出一种无需额外微调的低秩压缩框架,在相同压缩率下较先前方法提升 7% 零样本任务准确率。 该框架引入层内共享低秩投影以减少冗余,并采用块跳过技术省略选定子块的计算与内存传输,从而在相同压缩预算下保留更高有效秩。
提出一种能量生成重放方法(EB-Gen),用于解决 Hopfield 网络持续学习中的灾难性遗忘。该方法利用冻结模型生成伪数据进行复习,无需外部数据缓冲。在 Split MNIST 和 Split CIFAR10 基准上,平均准确率分别达到 75% 和 64%。该方法可在保持均衡传播(EqProp)优势的前提下提升稳定性。 ```
研究提出两种适配硬件的脉冲神经网络(SNN)用于实时尖峰分类。ConvSNN在EFM32PG28微控制器上实现0.873的复杂尖峰F1值,电池续航33.73小时;StreamSNN在SKY130电路中占0.173 mm²,能耗0.46 μJ。
该论文提出 LearnPrunerV2,通过引入可学习模块与影子 token,解决现有 Token 剪枝中判据不可靠及调度僵化的问题,在 LLaVA-v1.5 上剪枝 77.8% 视觉 token 仍保留 99.8% 性能。模型通过 Budget-Deterministic Pruning 建立硬件友好的固定每层预算调度,并在多个基准测试中持续超越先前最先进方法。
Tap2Listen提出了一种流式视听目标说话人提取模型,支持即时切换目标说话人。 该模型将计算按模态分离,音频编码器处理混合信号,视觉线索仅作为解码器条件,切换仅需0.12ms重新投影。 在LRS3-2mix测试集上,SI-SNRi从8.85 dB提升至9.68 dB,且可在单CPU核心上实时运行。
研究提出小型候选形式化器,通过离线教师生成列表构建显式验证候选项,冻结决策模型据此选择。 在CALVIN-D测试中,DeepSeek V4 Flash pose候选项成功率达46.5%,对比通用动作的11%;本地部署模型在1,011个验证标注中,使用微调形式化器成功率52.6%,无则为11.8%,端到端延迟2.09秒。
针对带宽受限与算力不足的资源匮乏地区,云边协同架构利用边缘轻量化模型与云端 LLM 实现多模态临床筛查。 在 20 个多模态病例、500 kbps-5 Mbps 网络条件下,系统实现 98-99% 诊断工具召回率、92-96% 精确率,且 token 成本降低 4-15 倍。 该设计优于纯云端基线,在部署限制下显著提升了多模态数据整合效率与事实依据可靠性。
研究发现单流 WebGPU 大语言模型推理中,单次操作 dispatch 开销而非内核计算主导推理成本。 测量表明 dispatch 成本与数据类型无关,受控融合实验证实在 batch size 1 时瓶颈源于 dispatch 次数。 结论指出优化路径在于减少 dispatch 次数,并推动引擎及 WebGPU 规范实现 dispatch 摊销。
针对 Tsetlin Machine 的 T 与 s 训练超参数,提出将准确率作为约束的定向搜索策略,通过增大 s 降低推理延迟。 基于 gem5 模拟器和 ARM 处理器测试,在保持基准准确率的前提下,该方法在六个数据集上将推理延迟最多降低 16.34%,部分数据集准确率仅下降 0.06%。 该策略所需配置评估次数远少于穷举网格搜索,显著提升了训练效率。
AgriDefend是一款基于Raspberry Pi 5的离线边缘设备,通过融合MobileNetV2和随机森林实现作物健康预测。 该设备BOM成本为205美元,约是同类商用节点的五分之一,在无云连接限制场景下具有实际应用价值。
该研究提出条件扩散框架,通过生成合成 DVL 与惯性信号替代真实海试数据,解决自主水下车辆(AUV)深度学习训练数据获取成本高的问题。 模型基于 Elucidated 扩散架构,以三个逐通道运动描述符为条件,在 13 条真实轨迹上验证生成信号的 Pearson 相关系数达 0.72 至 0.997,且可泛化至未训练轨迹。
研究者提出误差扩散(ED)优化器,将二值化语言模型训练状态从 97 bit/权重 压缩至 3-9 bit/权重。 ED 利用 2-8 bit 残差缓冲区替代隐变量权重,在字符级 Transformer 上收敛性能达到参考基准的 98.3%-95%。 该方法使二值模型在 275 MB 内存预算下实现设备上适配,摆脱了对高精度隐变量副本的依赖。
研究提出参数化 Tanh 连接函数,以 4 个可微参数替代复杂 B 样条,解决边缘激活范式的计算瓶颈。 该模型在 MNIST 达到 95.63% 准确率,在 CIFAR-10 达到 44.74%。相比 7 参数指数基线,训练运行时间减少 85%,显著提升硬件扩展性。
研究发布 CallScreenBench 基准,评测运行在手机上量化至 4-bit 的 0.6-4B 小语言模型作为“电话秘书”的文本对话决策能力。该基准重点评估所有者对代理处理未知来电的认可度,包含五组自动指标及三项警惕性诊断,不定义综合分数。
VitalAgent 提出了一种基于 ECG/PPG 信号的 mHealth 工具增强型智能体框架,支持反应性问答与主动性监测。 该框架构建了纵向生理记忆,并引入了 VitalBench 基准(含 1,862 个问答对和 90.2 小时连续记录)。 实验显示其反应性评估比基线提升超 25 分,能实现长期生理信号预警,获 NeurIPS 2026 工作坊接收。
AIPC 结合结构化 Skills 与工具链证据,实现 PyTorch 项目在高通 NPU 上的自动部署与优化。 在两个优化案例中,Whisper-Small 有 6/7 次运行达标(对照组 0/6),YOLO-Worldv2 实现 2.791 倍端到端加速(对照组 1.599 倍),部分运行无需人工干预。 该方法将模型适配、构建、执行、精度修复与性能优化整合为单一部署流程。
研究者提出 SPARTA 稀疏三值 LLM 加速器,专为长上下文边缘推理设计,通过统一数据通路和自适应注意力引擎解决内存带宽瓶颈。 该系统在 1.58-bit 三值权重下,将 KV 缓存流量较全注意力减少 4.1-4.8 倍,较现有稀疏注意力方案减少 1.3-1.5 倍,支持预填充与解码阶段的异构稀疏性优化。
基准测试 VLA-HWBench 显示,VLA 模型动作生成策略对推理延迟的影响远大于模型参数量。 在 18 个开源 VLA 模型测试中,Jetson 平台上延迟差异达 82 倍,而参数量仅解释 15% 的方差。
提出无需训练的推理加速框架 TRIAGE,在保持任务成功率的同时显著降低预填充延迟。 通过令牌级诊断发现,缓存复用与剪枝策略的有效性取决于令牌漂移值;复用高漂移令牌会导致最高 4.4 倍的动作误差,而 TRIAGE 据此动态分配固定重算预算。
summary_zh: EEGBiFormer 是一种混合 CNN-Transformer 模型,实现了基于 16 通道 EEG 信号的实时注意力二分类,系统延迟低于 100 ms。
针对 DNN 部署中电压标称带来的能效挑战,提出基于累积感知量化与混合精度修剪的硬件-软件协同设计方法。在 2nm 工艺节点上,该方案在低压下将能耗降低 39%,能耗延迟乘积降低 23%,且精度损失控制在 1% 以内。该工作已被 ICCAD '26 会议接收,为提升边缘设备能效提供了新路径。
研究在树莓派 5 上评估离线 RAG 信任机制,提出 C0-C4 连通性状态框架。检索评分门控检测知识缺口 AUROC 达 0.97;3B 模型以不到一半时延和能耗达到与 7B 模型相同的正确率。 已签名有毒数据包可通过所有包检查,导致 30 道原本正确问题正确率降至零,现有机制未能确立证据真实性。
AGQ方法在LIBERO基准上实现W3量化92.7%任务成功率,超AWQ和GPTQ分别1.2和3.7个百分点,并支持W2.5量化70.5%成功率。 该方法结合动作敏感度与权重恢复成本代理指标分配矩阵比特宽度,采用非对称W1.5*配置实现6.10倍完整模型压缩,维持25.5%任务成功率。
HobbyLM 是一个由多名作者在数百至数千美元预算内训练的稀疏 MoE 小模型家族,核心包括 500M 参数架构(169M 激活)与 333M 参数的图像生成模型。模型采用细粒度专家与辅助损失自由的负载均衡,支持多模态推理;HobbyLM-1B 在 7 项基准测试中平均得分 47.5。该系列在笔记本电脑 CPU 上通过自研 Rust 引擎运行,展示了低成本 AI 模型的可行性。
Liquid AI 发布新一代开源 Liquid Foundation Model(LFM3),将文本、视觉、音频、omni 和决策任务放入同一 2B 级底座,所有模型都可在单卡上微调并部署到边缘设备。
推荐理由:Liquid AI把六种模态压进2B级开源权重,并用同一底座和单卡微调路径解释它如何落到边缘部署。
提出Alignment Adapter (AlAd)框架,通过事后对齐压缩模型的token embedding与参考模型以提升下游任务性能。 AlAd是一个置于压缩模型最终层后的小型前馈网络,可读取相邻token窗口利用局部上下文。使用BERT-base作为参考,在POS标注、NER和抽取式问答任务上,AlAd能改善四个BERT压缩变体表现,且联合微调效果优于冻结模型。
研究揭示蒸馏小型语言模型拒答评估的三个机制:拒答丢失、采样波动及选项捕获。 重采样显示10%-27%的拒答转为刻板印象答案;仅条件于已提交答案可防止误判公平性。 学生模型在科学问题中捕获拒答选项达95%,自由形式评估证实多选遗漏并非刻板化主要位置。
EdgeDeID 是一个 0.6B 参数的本地运行临床去标识模型,完全使用合成数据训练,无需真实患者文本参与。 在 100 条合成临床笔记的基准测试中,该模型达到 0.994 micro-F1,99% 的笔记无遗漏标识符;对比八款现成系统中最强者的 0.857 F1 和 12% 遗漏率表现更优,量化后仅需 615 MB CPU 内存。
论文提出基于云托管参数服务器和 gRPC 的统一系统架构,支持异构客户端在地理分布式环境中进行 LLM 预训练和微调。 系统在 GPT-2 Medium 和 Llama3-1B 模型上完成了跨多个大学站点的实际实验,验证了其在连接不稳定和硬件异构条件下的稳定收敛能力。 研究还指出了未来需解决的开放问题,包括前沿模型支持、弹性容错、自适应压缩及隐私信任等,以推动分布式 LLM 训练的普及。
MoE-SpAc 提出基于推测解码的 MoE 推理框架,在七个基准测试中将 TPS 提升 42%,并比标准基线快 4.04 倍。该框架通过推测效用估计器、异构负载均衡器和异步执行引擎,将推测解码转化为内存管理的前瞻传感器,统一预取与驱逐过程。论文代码已开源,旨在解决边缘设备内存受限与 I/O 瓶颈问题。
提出S-SALAAD框架,通过联合学习模型权重的低秩与结构化稀疏组件,在Llama2和Qwen3模型上实现了跨多种内存预算的高效推理。 框架支持硬件兼容的结构化稀疏模式,并包含针对CPU和GPU的专用内核。实验表明,S-SALAAD在困惑度、内存和推理延迟方面优于对比基线。
SEVI 提出一种可靠性感知安全干预框架,用于现实世界策略学习。该框架引入证据安全评估器,在单次前向传播中估算约束违反风险与认知不确定性。 在线学习时,若动作预测不安全或证据不足,SEVI 将其覆盖为离线训练的低风险恢复策略。 在模拟操作和 USB 插入任务中,SEVI 实现了最高的任务成功率和最低的不安全事件计数,相比基线减少 13.4% 至 57.1% 的不安全事件。
面壁智能参与举办 CNCC 2026 第三届端侧大模型论坛,展示 MiniCPM 系列累计下载量突破 6000 万次、17 次登顶 Hugging Face 榜单的进展。
Qoder 已完成对 iPhone Duo 的适配,利用其分屏多任务功能,实现左侧与 Agent 对话、右侧查看结果的工作台模式。 支持外屏单手查看任务进度与确认,合上手机后任务不中断,展开后可从上次进度继续。