uniopen 如何通过定制 Amazon Nova 2 Lite 适应零售审核策略
uniopen 团队通过在 Amazon SageMaker AI 上进行监督微调及提示词优化,将 Amazon Nova 2 Lite 定制为符合其特定零售业务的审核模型。
uniopen 团队通过在 Amazon SageMaker AI 上进行监督微调及提示词优化,将 Amazon Nova 2 Lite 定制为符合其特定零售业务的审核模型。
LG 电子宣布投资 1,500 亿韩元,在美国弗吉尼亚州温莎市建设全球第三座 AI 数据中心冷水机组工厂,并提升韩国平泽、昌原工厂产能。美国新厂占地 170,000 平方米,预计 2027 年下半年投产,实现产能北美本地化。LG 电子正通过全套“芯片到冷却器”解决方案拓展 AI 数据中心热管理业务。
NVIDIA DGX Spark 64GB 将于 10 月 23 日通过 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 发布,起价 4,999 美元,支持 DGX OS、CUDA-X AI 和 Ollama、vLLM、PyTorch 等本地 AI 软件栈。
微软宣布在其数据中心推广“仿生设计”策略,旨在通过绿化景观和生态系统修复缓解社区对噪音、污染及树木砍伐的担忧。该计划将覆盖美国及德国 20 多个现有站点,并要求所有新建项目同步实施,以支持生物多样性并改善邻里关系。
Amazon云服务CEO Matt Garman发表了一篇3000多字的博文,警告各社区不要阻止AI数据中心项目,并列举了包括创造就业、稳定当地能源电价以及向周边社区投资超10亿美元在内的“数据中心承诺”实践,称数据中心是美国家庭经济和国家安全的关键。文章还提到Amazon已不再与政府机构使用保密协议。
Baseten 正式成为 Hugging Face Hub 支持的推理提供商,首批支持 Kimi K3、DeepSeek V4 Flash 和 GLM-5.2 等开源 LLM 的对话与文本生成任务。PRO 用户每月可获得价值 $2 的推理积分,通过 HF 路由的请求按提供商标准 API 费率计费且无额外加价。
学习AI工程应围绕五个核心决策展开:是否使用LLM、系统架构选型(提示词/RAG/微调/智能体)、数据接入与人工介入点、成功标准及评估、以及失败处理机制。作者建议通过阅读基础资料、构建小型系统并加入评估数据集与追踪功能来积累经验,利用评估与反馈转化工程判断力。相关学习路径已整理为免费的公开GitHub路线图,并附带可定制课程大纲的提示词。
Public AI Inference Utility 正式成为 Hugging Face Hub 支持的 Inference Provider。该开源项目通过 vLLM 后端和全球负载均衡层,为 Swiss AI Initiative 等机构提供基于捐赠 GPU 时间的免费推理服务。
Hugging Face 团队在其 nanoVLM 仓库中从零实现了 KV Cache,使文本生成速度提升 38%。该优化通过缓存 Key 和 Value 矩阵,避免了自回归生成中的重复计算。
GaLore 利用梯度低秩结构实现显存高效的大语言模型全参数训练,将优化器状态显存降低 82.5% 以上。该方法支持结合 8-bit 优化器,使 7B 参数模型能在 NVIDIA RTX 4090 等消费级 GPU 上完成训练。
Hugging Face 推出 PyTorch 量化后端 Quanto,作为 Optimum 的组件支持 int8、int4、int2 及 float8 权重与激活量化。
Hugging Face 在 huggingface_hub 中推出了增强搜索功能,新增 ModelSearchArguments 和 ModelFilter 类,支持在 Python 环境中通过程序化接口按任务、数据集、框架等条件检索模型与数据集。