Inference Gateway Desktop 发布:支持任意模型提供商的 AI 客户端
Inference Gateway Desktop 发布了一款原生桌面 AI 客户端,支持 OpenAI、Anthropic、Google、本地 Ollama 模型及任何 OpenAI 兼容端点。
Inference Gateway Desktop 发布了一款原生桌面 AI 客户端,支持 OpenAI、Anthropic、Google、本地 Ollama 模型及任何 OpenAI 兼容端点。
作者利用 Claude Code 开发了名为 WMD 的全栈 Web 应用,将其作为个人桌面的控制中心,通过浏览器标签页管理文档、日志和部署任务,替代了传统终端工具。
2026 年 AI 展现出强大能力,2027 年重点将转向建立应用直觉以优化使用效果。 主要应用集中在 AI 智能体编码、研究辅助及构建 AI 原生产品,其中 AI 原生产品仍具高度不确定性。 作者建议先通过人工流程解决问题,再逐步引入 AI 进行自动化迭代。
Daptin 新增 LLM 路由器功能,支持接入多家供应商,通过账户和群组管理用户访问模型及调用权限。 每个账户可配置请求限制、token 配额和消费预算,支持 fallback 路由、对话续接及图像输入。 资源、路由和使用记录可通过 Daptin API 管理,本地实例支持 Docker 快速部署。
Factum 是一款 VS Code 扩展,支持 ORM 2 事实建模,将概念模式映射至关系或属性图,并生成 LLM 可读的陈述句供验证。 该工具包含 MCP server,支持 Claude Code 或 Copilot 读取模型文件,通过本地 JSON 文件运行,提供 `factum validate` 等 CLI 命令及 SVG/PNG 导出,采用 MIT 开源协议。
Claude Code 协助调优 Dell Precision 3591 笔记本,磁盘占用从 90% 降至 25%,Postgres 测试查询耗时由 605 ms 减至 330 ms。 优化措施包括删除 Rust 调试构建、关闭 Intel VMD 以解决 SSD 冻结,并调整内核参数使 NVIDIA GPU 空闲时睡眠 97%。 系统整体响应速度显著提升,为 AI 辅助开发提供稳定硬件基础。
groma.md 是一款免费、MIT 许可的本地化架构管理工具,能将代码仓库实时转换为 C4 架构地图。该工具基于确定性的离线代码分析,不依赖 AI 服务,支持 TypeScript、Go 等 24 种语言及框架。
作者提出一种极简的 AI Agent 构建方法,核心是在终端创建一个包含 AGENTS.md、上下文文件和 MCP 工具的文件夹,而非依赖 LangChain 等复杂框架。
summary_zh: 在 MacBook Pro M2 Pro 上测得 LLM 解码阶段有效内存带宽为 163 GB/s,固定开销 4.03 ms,建立 TPOT 线性预测模型。
OpsJarvis 是一款自托管 AI 运营台,所有写操作均需人工审批。它基于 Claude API 构建,支持 Gmail、Slack、Stripe 等 7 项集成。其 Circuit Breaker 功能可自动暂停高风险 CRM 写入,确保操作安全。
意大利公司Domyn在欧盟JUPITER超算上为开放模型EUROPA完成训练试跑,总参数951.9B,远超欧盟委员会400B的最低要求。采用MoE架构,384个专家中每个token仅激活8个,每token活跃参数32.8B。试跑期间单GPU吞吐从90提升到1293 tokens/秒,训练效率提高14倍。
db-branch 发布,支持在自有服务器上为 MySQL 和 PostgreSQL 创建秒级分支。基于 ZFS 克隆的写时复制技术,创建分支时不复制数据,适用于 AI 代理沙盒和每个拉取请求独立数据库的场景。工具提供 CLI、REST API、Web 控制台和 MCP 服务器接口,采用 Apache-2.0 许可,当前处于 Beta 版本。
比特币矿企 Bitfarms 正式更名为 Keel Infrastructure,将业务重心从挖矿转向提供 AI 数据中心电力与场地。 CEO Ben Gagnon 指出公司核心资产是兆瓦级电力而非挖矿设备,该决策借鉴了 Core Scientific 改造矿场的经验。此举也呼应了加密货币矿工将电力容量重新用于 AI 算力的大趋势。
谋先飞(Motphys)发布物理仿真引擎 MotrixSim 1.0,其核心采用 Rust 开发。 该引擎支持多体动力学与机器人仿真,具备 CPU/GPU 异构架构。在 4096 并发下,G1 机器人训练耗时 10.2 分钟,远超传统方案。
ShadowDiff 发布了一个高性能网络代理引擎,用于将生产 HTTP 流量同时镜像到旧版服务与 AI 重构后的候选服务,以检测序列化、数据库事务和 N+1 查询等隐性回归。该工具集成 Envoy 进行流量克隆,利用 Google Gemini 自动生成回归测试,并支持通过 GitHub 自动提交 PR 以及集成 CI/CD 流水线作为质量门禁。
中科曙光在 2026 中国超级算力大会上强调高速互连是扩大算力基础设施规模的关键。其自研 scaleFabric 网络通过组网与通信优化,减少通信等待并支持故障快速恢复,保障超大规模集群运行。该网络支持单网 11.4 万卡互连,时延低、成本低,已支撑 3 万卡集群运行。
IBM 推出 Spyre AI 加速器卡,支持 128GB LPDDR5 内存与 300 TOPS 算力,功耗仅 75W,用于增强 IBM Z 系统的 AI 推理能力。 该卡采用三星 5nm 工艺,配备 32 个 AI 加速核心,支持最多 8 张卡组成 1TB 内存集群,可本地运行 Watsonx Code Assistant 等生成式 AI 用例。
销售背景开发者 Sam Brovda 在六月中旬至七月中旬期间,借助 Claude Opus 4.8 等 AI 编码代理,为业余项目 statback 提交了 172 个 commit。
datasette-llm 0.1a11 新增对 OpenAI 兼容端点的配置支持,允许用户连接任意遵循该协议的 LLM 服务。该插件通过 `default_model` 参数可对接 LM Studio、Ollama 或 llama.cpp(刚发布 v1.0.0)等本地推理工具。用户利用 `uvx` 命令即可部署由本地模型驱动的 Datasette Agent 实例。
Smart Node 是运行在本地机器上的自托管 AI 节点,集成任务追踪、语义记忆、语音交互及模型网关。 它基于 Bash 和 Docker,支持通过 Anthropic、Google 或 OpenRouter 等云端模型进行推理。 目前仅维护者团队完成安装流程,尚无一键更新或离线模式,需用户自行配置权限与集成。
作者将本地 AI 助手 zkzkAgent 接入 Nosana 去中心化网络,以租用 GPU 运行 qwen3.8-27b 模型,突破笔记本电脑仅能运行 2B 小模型的限制。
Cowork 是一款开源的自托管控制平面,通过统一任务收件箱连接 Claude Code、Codex 等多款编码智能体,解决 API 速率限制导致的工作流中断。
用户利用 HiveMind 协调器联合 CrowdGPT,在普通消费级 GPU 上完成了基于 Crowd-v1 模型(总参数量约 1.01B,Transformer 主干 658M)的实验性分布式训练测试。
FAA 在美军全国地面停止同日推出耗资 8.75 美元的 SMART AI 空管系统。 该系统旨在管理全国领空空管,分析指其新旧系统通信故障导致停飞,而非恐怖威胁。 凸显新 AI 系统与遗留系统兼容性风险。
Envision 在内蒙古建设 800MW Galaxy AI 数据中心园区,首期 120MW 耗时不到一年,成本仅为美国同类项目的五分之一。 为保障电力供应,Envision 配套自建风电场和电池存储设施。
随着AI Token成本激增,工程界正面临新的生产力测量挑战,需建立从Token消耗到业务结果的归因链条。Faros 2026年数据显示,高AI采用率团队虽合并了更多Pull Request,但代码复杂度与审查时间大幅上升。DORA框架正在引入财务视角,建议通过模型路由、优化审查瓶颈和维护AGENTS.md等配置文件,提升AI产出稳定性与成本效益。
GitHub App SunsetLint 扫描代码库,在退役截止日前定位即将下线的 AI 模型 ID 的具体文件和行号。 该工具支持 Anthropic Claude Sonnet 4.5 等已官宣退役的模型,提供替代方案建议,且仅具备只读权限,不修改代码。
联想在河北张家口官宣“万全混合词元工厂”,首期建设15000P异构算力集群,Token年产能达2000万亿。 工厂采用“绿电进,词元出”模式,通过Token Engine与xCloud实现混合供给。目标包括百万Token综合成本优化70%、产出提升5倍、良品率超99.9%。
11月12日,黄仁勋公开宣布辞去英伟达总裁、首席执行官和董事职务,公司股价收盘下跌4.3%,AMD同日收涨5.9%。文章结合两家公司的财报与市场数据,分析了数据中心业务中英伟达890亿美元营收与AMD 67亿美元营收的差距,并指出尽管英伟达拥有CUDA护城河,但AMD通过ROCm及Helios机柜在云厂商采购中逐步取得进展。
Cloudflare 宣布开源为 AI 智能体打造的浏览器 Kitesurf,该浏览器基于 Cloudflare Workers 运行,支持 Chrome DevTools Protocol 且不依赖 Chromium 进程。在网页截图等常见任务中,Kitesurf 消耗的 CPU 和内存显著低于 Chromium,能支持更高并发的 AI 负载。
英特尔联合 23 家韩国企业成立 K-AI 全栈联盟,旨在构建覆盖全产业链的韩国主权 AI 基础设施生态。 首批成员包括 KTNF、FuriosaAI、Upstage 等,覆盖硬件、软件及云服务等环节。
Perplexity 将名为 Teammates 的主动智能体功能部署到 Mac 平台。该功能允许 AI 智能体拥有持续性的工作任务(如管理增长活动、分诊 bug 报告、跟踪指标等),并能全天候规划任务、在工作量增加时调用更多智能体并跟进直至结果完成。目前 Teammates 仅对 Perplexity Max 付费订阅用户开放,此前该功能仅限于 iOS 和网页端。
Anthropic 招聘“天然气供应与传输主管”,薪资达 32 万至 40.5 万美元,旨在确保数据中心获得管道天然气。职位声明称“如果没有天然气,算力就无法运行”,部分园区将采用燃气离网发电,IPO 招股书也警示需与其他方争夺天然气资源。此举紧随其 34 亿美元购买燃气发电设备之后。
韩国初创公司 DeepX 计划投入超 1 亿美元,在三星电子 2nm 制程上开发面向端侧推理的新一代低功耗 AI 芯片。其首款芯片 DX-M2 已完成流片。 此举为三星晶圆代工业务带来重量级 2nm AI 客户,助力其争夺台积电的市场份额。
summary_zh: Gamma PDF 是一款开源、可自托管的 AI 原生 PDF 阅读器,支持在本地机器上运行,具备大纲笔记、实时数学公式及伴随式 AI 阅读功能,支持 Windows、macOS、Linux、iPad、Android 及 Docker 平台。
英伟达宣布创始人黄仁勋辞任CEO及董事职务,科莱特·克雷斯出任临时CEO,哈维·琼斯任首任董事会主席。文章指出此举源于个人丑闻与地缘政治压力的叠加,并分析了公司面临的毛利率回落、客户集中及“循环融资”等五大结构性风险。继任的财务型治理结构将推动公司走向合规与机构化,短期虽稳但长期可能削弱其对AI周期的叙事引领能力,同时也为国产芯片替代留出更多窗口。
llama.cpp 与 ggml 库版本进入 1.0.0。本次更新确立语义化版本规则:libllama 和 libggml 通过主版本号标记 API 或 ABI 破坏性变更,次版本号标记向后兼容的功能、后端更新或模型支持,补丁版本号用于修复 bug。
GS Caltex 通过连接 Amazon SageMaker Canvas 与 Amazon SageMaker Pipelines,实现生产级 MLOps 工作流。过程工程师在 Canvas 中无代码构建模型,ML 工程师负责部署。 自动化交接使模型部署时间从约一周缩短至几小时内。每 30 分钟运行批量推理,显著降低了推理成本。
Doc-foundry是一个开源工具,利用LangGraph和四个角色化LLM智能体(威胁分析师、蓝队检测工程师、遥测、红队对手),将CVE等威胁转化为经过对抗验证的Sigma检测规则。该工具通过确定性引擎进行误报/漏报评估、对抗性变异测试,并生成覆盖证明和复现哈希。支持两种流程:经典证明循环(Blue-Red对抗)和审查链(模拟多方评审),并提供FastAPI演示界面实时监控智能体生成过程。
法国总统马克龙宣布12月2日在巴黎召集会议,推动欧洲科技自主,并与荷兰首相共同召开。会议核心是推动欧洲政府与科技行业加强合作,提升欧洲科技自主能力。马克龙强调,欧洲需在人工智能领域加大投资、加快决策,加强各国协同,让本土科技企业获得首批大额合同。