2B模型编造工作经历,代码比提示词更有效的修复方法
作者使用Chrome扩展在本地运行Gemma 4 E2B自动填写求职申请,模型输出了提示词中未提供的工作经历,且将其自身证据误判为64/64次支持。作者尝试修改提示词无效,最终通过代码逻辑拦截模型建议,只允许白名单内容填入表单才解决了问题。
作者使用Chrome扩展在本地运行Gemma 4 E2B自动填写求职申请,模型输出了提示词中未提供的工作经历,且将其自身证据误判为64/64次支持。作者尝试修改提示词无效,最终通过代码逻辑拦截模型建议,只允许白名单内容填入表单才解决了问题。
微软向 Windows 11 26H1 推送 KB5127653 可选更新,版本号升至 Build 28000.3365。 新增设置允许将 Copilot 键映射为右 Ctrl 或上下文菜单键。
ThreadShelf 推出本地优先的 AI 对话归档工具,支持 ChatGPT、Claude 等六家提供商的统一管理。 采用本地嵌入与 LanceDB 存储实现语义搜索,通过 llama.cpp 进行离线推理,或选用 OpenRouter 作为显式外部提供商。 提供 Web UI、HTTP API 及 MCP 接口,将同一索引接入现有 AI 客户端。
QA Studio 引入应用实体、健康指标视图及基于团队的五级角色管理,支持组织级扩展。 应用作为测试容器继承所有权,自动记录 CloudWatch 自定义指标。 健康分数(0–100)通过扣减 Flaky Test 惩罚计算,并提供 7 天/30 天趋势及 Flaky 测试排名。
AWS 发布架构方案,展示如何在 Amazon Bedrock 和 Amazon Bedrock AgentCore 上构建多账户智能体 AI 平台。方案通过独立的推理与工具网关及严格的部署评测管道,让各业务团队能在隔离的边界内安全开发并运维 Agent,实现规模化企业级治理。
推荐理由:原文给出了多账户运营模型和评测管道设计,读者可据此理解如何治理企业级 AI 智能体平台。
扩散智能发布并开源扩散语言模型Clover-35B-A3B-Preview,该MoE架构模型总参数350亿、激活参数30亿,支持思考模式。基准测试显示其在SWE-bench Verified等6项智能体编程及工具使用任务中排名同级第一,超过Qwen3.6-35B-A3B。
summary_zh: Files Magic AI 是一款 Mac 应用,能根据文件内容整理文件夹结构并自动重命名,提供撤销功能。用户可选择组织模板预览结构,通过 Magic Rename 读取文件内部内容(如 PDF、电子表格)生成清晰名称,支持设备端运行或 Cloud AI。
实时流媒体中 CPU 单实例成本低于 1 美元,而 GPU 单实例成本在 3 至 10 美元以上。 CPU 适用于串行逻辑任务,GPU 擅长大规模并行 AI 与编码但价格高昂。 企业需结合工作负载特性平衡算力配置以控制总体运营成本。
Nebul 在比利时马谢伦 Datacenter United 园区部署第二欧洲云区域,构建包含超过 1,000 块 NVIDIA Blackwell Ultra GPU 的 SuperCluster。
OpenRouter 通过单一 API 聚合数十家提供商,使开发者能在 Python 应用中通过修改一行代码切换 GPT、Claude 等模型,无需重写集成逻辑。 请求采用 OpenAI 兼容的 JSON 格式,部分模型带有 :free 后缀可免费调用;OpenRouter 提供官方 SDK,但本教程主要使用 requests 库以保持请求可见性。
Uber 开发的 Legal Redlining Agent 集成于 Microsoft Word,通过 AI 识别合同红线并建议修改,使平均合同审查时间减少 20% 以上,AI 决策准确率达 91%。 该系统结合 RAG 检索与意图检测,生成符合策略的建议和风险提示,帮助律师聚焦复杂判断而非重复性工作,并在 2026 年 3 月获 ALM 最具创新法务部门奖。
CaseCite 是开源自托管法律研究平台,对标 Harvey 功能。支持文档问答、合同审查与起草,数据存于本地。 采用 BM25 重排序,兼容 OpenAI 等 API。提供 CourtListener 案例搜索,无遥测上报。 基于 Elastic License 2.0,仅限内部使用,禁止托管服务。
Hyperbolic 推出统一平台,支持按需访问 NVIDIA H100、H200 和 B200 GPU,并提供 OpenAI 兼容 API 以运行前沿模型。用户可在几分钟内部署集群,通过按 token 计费使用推理服务,或部署托管 Kubernetes 集群管理 GPU 工作负载。目前已有超 250,000 名构建者使用该平台,简化了 AI 基础设施的采购、部署与运营流程。
作者提出 AI 行业应效仿 Ubuntu LTS 机制,提供长达五年的稳定版本支持,以平衡前沿创新与系统稳定性。 这种模式旨在为依赖模型的组织(如学校、医院)提供可预测的维护窗口,避免因模型弃用或行为突变导致的高额重构成本。
德州2026年中期选举中,数据中心建设成为跨党派核心议题,一项8月民调显示57%的德州居民反对数据中心建设。该反对群体包括43%的共和党人、75%的民主党人和54%的独立选民。共和党州长Greg Abbott和民主党州参议员James Talarico面临巨大选举压力,Abbott宣布对数据中心项目许可实施全州冻结,并取消了2013年制定的销售税豁免政策,尽管他此前已将德州定位为“AI发展核心”。
开源 TypeScript 库 Rudra-JS 允许 LLM 通过结构化规范为 React 商店设计产品推荐块,避免生成虚构价格。该库通过 SKU 映射和三重数字校验确保内容真实,默认模式下每 1000 次浏览需 460 次模型调用。
SiFive 将其 Intelligence 系列 RISC-V 处理器定位为可编程控制器,用于管理定制 AI 加速器。 该方案作为加速器控制单元(ACU),处理数据移动、调度及协调,X100 系列侧重低延迟,X200 和 X300 系列提供更大向量带宽。 Google 数据中心已在使用 Intelligence X200 作为 AI 计算主机,标志 RISC-V 正进入异构系统控制平面。
摩尔线程宣布开源大模型训练基础设施项目 Megatron-MUSA-Titan,聚焦万卡级集群万亿参数 MoE 模型训练。 项目已在实际预训练中实现高 MFU 与长稳训练,支持 blockwise FP8 训练及 DeepEP 与 ACE 异步通信引擎。 该系统支持预训练与强化学习场景,能结合 slime、miles 框架及 SGLang,提升大规模训练效率。
天数智芯在 2026 媒体开放日首次公开展示天垓 300 通用 GPU 的实机运行,官方称其第三方实测单卡整体吞吐达到 H200 的 1.05 倍。开放日还披露了 IXL144 超节点方案、GPU 与 XPU 异构部署 AFD 分离方案,以及端侧产品彤央 TY1200 的实测进展。
Hyperbolic完成由Intel CEO Lip-Bu Tan的VC机构Walden Catalyst领投的3000万美元A-1轮融资,累计融资达5000万美元。 该公司提供连接数百家neocloud的AI芯片市场与软件,目前接入约30家neocloud,年计算资源规模约2亿美元,拥有超25万开发者。 Hyperbolic已实现盈亏平衡,并计划利用募资扩展跨neocloud的AI芯片管理工具。
Seawolf Capital 做空 CoreWeave,称竞争芯片产能正以“飞速”扩张。 Crusoe CEO 反驳称 neocloud 抛售反应过度,并指 CoreWeave 已达成“几笔非常不错的交易”。 这反映出投资者对债务驱动型 GPU 云的看法分歧严重。
Oracle 将基于 Cerebras 计算机在其数据中心提供云服务。 该交易为 Cerebras 带来大型客户,并在 OpenAI 的关键基础设施合作伙伴中增加了非 Nvidia 的推理硬件。
Anthropic S-1 披露其将 Amazon Trainium、Google TPU、Nvidia GPU 和 AMD GPU 作为单一可互换算力池管理,软件按生产力自动路由任务。 分析师称这种耗时数年构建的灵活性赋予大型 AI 实验室对 Nvidia 的议价能力,但因转换成本高,小型玩家仍无法跟进。
summary_zh: Requesty 推出支持 600+ 模型的 AI 网关,提供路由、故障转移及支出限制功能,所有服务部署在欧盟数据中心。 其 OpenAI 兼容 API 允许通过 3 行代码集成,采用模型成本加 5% 的定价模式,并支持自带密钥(BYOK)。
开源项目 AetherGrid 发布,旨在解决大规模分布式 AI 工作负载调度中的故障隔离与资源限制难题。 它采用时间约束租约(time-bound leases)强制管理作业执行权,并记录全部非显而易见的工程决策(Engineering Decision Records)。所有 API 路由均需密钥认证,包括密钥签发端点,确保系统安全性。
开源项目 SelfClaw 是一款自托管多模型 AI 聊天系统,支持 DeepSeek、Kimi、Mistral 等模型聚合,并兼容 OpenAI API。 其核心功能包括模型失败自动降级、CCR 闭环智能体以及文件操作和联网搜索。项目提供本地 Self-IDE 服务与 VS Code 扩展,采用 MIT 许可证开放。
清华大学翟季冬教授团队发布八卦炉 2(BaGuaLu-2),通过运行时自适应机制解决 MoE 模型在万卡集群训练中因显存尖峰导致的 OOM 问题,论文已被 SC26 录用。
Unveil 提出一种仅依赖主机侧遥测数据的框架,用于检测和修复大型机器学习负载中的隐性低效问题。它无需应用修改,使用无监督学习模型识别低效,并减少监控开销至 2% 以下。该系统可将吞吐量损失恢复 7%,并将推理延迟降低最多 43.48%。
针对 Qwen3-235B-A22B 模型,ZeRO-Prefill 系统通过异步专家并行 AsyncEP 实现了 MoE Prefill 服务的零冗余开销,在实际工作负载下吞吐量比最强分布式基线提升 1.34-1.37 倍。
研究采用薄膜铌酸锂马赫-曾德尔调制器作为模拟计算单元,在Vision Transformers和GPT-2上接近数字基线性能。 实验在10 GBaud符号率下表征电光响应,并在4-bit输入输出量化条件下验证模型鲁棒性。分析显示整体延迟比现有电子及光子Softmax实现降低一个数量级以上。
该研究系统分析了 WebGPU 在 LLM 推理中(batch size 1)的调度开销,指出传统基准测试高估了单次操作成本约 20 倍。 在 Vulkan 上内核融合可提升 53% 吞吐量,而 CUDA 融合无益;在 Metal 上不同实现间的性能差距达 2.2 倍。该研究证实了当前调度密集型流水线中,操作开销主导了性能表现,而非内核质量。
研究提出 PORTAL 控制器,用于决定测试时自适应干预(如更新归一化统计)的部署时机与标签查询策略。 PORTAL 通过固定候选预测规则并结合共享标签比较,将查询导向可能超越当前领先者的候选,在剩余标签无法改变选择或精度增益不足时停止。 该方法将整体降低精度的干预转变为在特定批次上有效的选择,防止到达顺序变化导致的严重失败,并通过获取的标签训练更强的未来候选模型。
TALOR 是一种轻量级、无反向传播的纠偏模块,用于开集测试时自适应,以源线性头为几何锚点。 该模块将特征分解为主坐标和尾坐标,利用加权岭回归在主要子空间中估计软路由仿射校正,并减去漂移估计。 在 ImageNet-C 基准上,TALOR 比 UniEnt 高出 2.2% H-score,运行速度快 2.5 倍,且仅使用其 12% 的 GPU 内存。
TRACE 利用 EHR 元数据去除临床记录中的模板和重复文本,在5.3M 份记录的四个队列中捕获了86%的标注模板字符,移除文本中仅0.3-6.6% 被标记为作者生成。
LISA 提出一种即插即用的自注意力替代方案,将长链式思维推理的计算复杂度从序列长度的二次方降低为线性。该方法结合线性注意力分支与 Lightning Indexer,通过动态稀疏选择优化计算资源分配。 在基于 Qwen 的实验中,LISA-1.5B 模型在 16K 上下文下将平均样本延迟降低 23.9%,同时在九项数学与代码推理基准测试中,其平均准确率比全注意力基线提升 4.2 个百分点。
研究证明混合专家模型(MoE)解码中的通道选择无需校准数据。Top-k 方法在 13% 和 18% 预算下,于 43 次对比中的 40 次表现优于或等于阈值法。 该方案在 Gemma 4 上避免了循环崩溃,且基于权重的读取器在 17.8% 的读取率下保留了 98.1% 的完整模型精度。Triton kernel 在批量为一时比 vLLM 快 1.60 至 1.90 倍。
针对量化条件内存中基于访问频率优化反而变差的问题,GateRQ 利用门控信号决定检索精度,无需重训即可运行。 在 DeepSeek-V4.1-Flash 上,GateRQ 使 GPU 表内存减少 7.8 倍,vLLM 吞吐量提升 11%-31%,且 PopQA 分数仅损失 1 点。
AgentBaton 采用“强模型到高效模型”的接力策略,在 11 个模型组合及两个基准测试中,平均降低 65.9% 的 API 成本,任务准确率基本保持甚至提升最高 8.8 个百分点。 该轻量级检测器通过识别任务进度中的重复模式,决定何时从强模型切换至高效模型,优化了成本与准确度的帕累托边界。
ResCom 通过低秩修正利用激活舍入残差补偿低比特量化误差,无需梯度训练即可优化输出。在 Llama-3-8B 4-bit 量化下,rank-32 注意力修正使 WikiText-2 困惑度降至 7.147,MMLU 提升 2.89 个百分点。FP32 实现增加 2.25% 预填充时间,紧凑存储版本相比 FP16 减少 27.7% 峰值内存。
研究提出功能秩分配(FRA)方法,在共享秩预算下对 LoRA 适配器队列进行事后压缩。 FRA 通过构建功能秩失真前沿,结合动态规划求解无标签代理,并以光谱提案限制误差,随后执行精确 minimax 分配。 在 78 个适配器的三个公开队列测试中,FRA 在受限预算下改善了最差情况与尾部效用表现。