AI for Game Development 第5期:使用 ChatGPT 创作游戏故事与内容
本文演示在 Hugging Face 发布的系列教程第五部分中,如何利用 ChatGPT 为种田游戏生成故事大纲及物品描述。作者指出语言模型在长文本创作中存在质量下降和重复的局限,并建议将其用于头脑风暴而非直接商用。教程同时提及 Character.AI 等新兴对话智能体在个性化游戏角色互动中的应用潜力。
本文演示在 Hugging Face 发布的系列教程第五部分中,如何利用 ChatGPT 为种田游戏生成故事大纲及物品描述。作者指出语言模型在长文本创作中存在质量下降和重复的局限,并建议将其用于头脑风暴而非直接商用。教程同时提及 Character.AI 等新兴对话智能体在个性化游戏角色互动中的应用潜力。
该文章展示了如何使用 Hugging Face 的 Transformers 和 Datasets 库构建图像相似度系统。系统采用基于 ViT 的 nateraw/vit-base-beans 模型计算图像嵌入向量,通过余弦相似度匹配查询图像与候选集。代码支持并行处理,并可通过 Swin Transformer 或 ConvNeXT 等模型扩展至其他图像数据集。
Elixir 社区宣布通过 Bumblebee 库引入 GPT2 至 Stable Diffusion 等神经网络模型。Bumblebee 是 Hugging Face Transformers 的纯 Elixir 实现,支持编译至 CPU 和 GPU。
Hugging Face Transformers 库内置了名为 Time Series Transformer 的模型,用于单变量概率时间序列预测。该模型采用 Encoder-Decoder 架构,结合 Ancestral Sampling 生成预测,并支持处理缺失值。
Hugging Face 文章展示了如何使用开源模型构建免费的定制化文档 AI 解决方案,涵盖 OCR、图像分类及文档问答等六大用例。多模态 Transformer 模型如 LayoutLMv3 和 Donut 在 RVL-CDIP 基准上达到 95% 准确率,显著优于 BERT 模型。
Hugging Face 在其 Evaluate 库中新增了偏差指标,用于评估因果语言模型(CLM)如 GPT-2 和 BLOOM 的生成偏差。 开发者可通过预定义提示词生成文本,并利用 Toxicity、Polarity 和 Hurtfulness 三个任务进行测量。 示例显示,简单的代词差异可能导致模型补全的毒性分数不同,如女性代词补全的毒性比率高达 0.3333。
Hugging Face 与 DataCite 合作,允许 Hub 用户为模型或数据集生成 DOI 数字对象标识符。用户可在仓库设置中申请,通过“Cite this model/dataset”按钮引用。DOI 绑定对象元数据,提供永久链接,版本更新时原 DOI 标记为过时。
Hugging Face 发布技术教程,详解如何使用 NVIDIA 的 Megatron-LM 框架在 GPU 上预训练 GPT2 模型。教程涵盖环境搭建、数据预处理及训练全流程,解析了 Megatron-LM 通过高效 DataLoader 和融合 CUDA 内核优化训练速度的技术原理。
Hugging Face 支持的 RAIL Initiative 推出了 OpenRAIL 许可协议,旨在结合开放访问与负责任使用,填补 AI 模型授权空白。该协议允许免版税的访问、使用及衍生再分发,同时嵌入针对特定关键场景的行为限制条款,以平衡广泛访问与潜在社会风险。
本教程演示如何利用 Hugging Face Transformers、Optimum Habana 和 Datasets 库,在 AWS 的 Habana Gaudi DL1 实例上通过掩码语言建模从零预训练 BERT-base。教程涵盖了数据集准备、训练新 Tokenizer 以及预处理等步骤,旨在利用 Gaudi 架构的成本性能优势加速模型开发。
本文通过 Hugging Face Optimum Graphcore 库,展示了如何在 Graphcore IPU 上对预训练的 Vision Transformer (ViT) 模型进行微调。
Hugging Face 推出新库 Skops,允许用户将 scikit-learn 模型托管在 Hugging Face Hub。该工具支持创建模型文档卡片,并通过 joblib 后端加载序列化模型。
Hugging Face 提供三种将 Transformers 模型转换为 ONNX 的方法。低级方法通过 torch.onnx API 导出,需手动配置动态轴;中级方法使用 transformers.onnx,利用配置对象简化流程;高级方法通过 Optimum 库调用 ORTModelForSequenceClassification,可直接加载模型进行推理。
Hugging Face Hub 正式推出 Pull Requests 和 Discussions 功能,旨在促进模型、数据集和 Spaces 的社区协作。 该功能支持所有用户创建和参与讨论及拉取请求,通过专用的 refs 分支直接处理贡献,避免了使用 forks 和 branches,为机器学习软件提供了简化的协作体验。
Hugging Face 推出 Fellowship Program,旨在通过提供算力、物资及官方认可,支持机器学习开源生态的关键贡献者扩大影响力。该计划不设截止时间,通过团队成员或现有 Fellow 提名进行选拔,入选者并非公司员工,但可在公开场合展示其 Hugging Face Fellow 身份。
Gradio 3.0 发布了基于 Svelte 的前端重构,显著减小了 payload 并提升了页面加载速度。该版本引入了 Gradio Blocks 低层 API,支持通过 Python 构建自定义布局和数据流的多步骤 Web 应用。Hugging Face 同期举办 Gradio Blocks Party 竞赛,旨在鼓励用户利用新组件开发机器学习演示。
Hugging Face 发布 Accelerate 库,支持通过 PyTorch FullyShardedDataParallel(FSDP)以无代码修改方式训练大模型。测试显示,FSDP 在 GPT-2 Large 上将最大批处理大小提升至 DDP 的 2-3 倍,并成功训练了 DDP 因内存溢出无法处理的 GPT-2 XL(1.5B)模型。
Hugging Face 启动教育计划,旨在2023年底前教授500万人机器学习。平台提供NLP、深度强化学习等免费课程,并面向教师提供多语言教学工具包与社区协作资源。
Hugging Face 的 Transformers 库有意不遵循 DRY 原则,而是采用单模型文件策略,确保每个模型的前向传播代码集中在单一文件中。此举旨在降低开源贡献者的门槛,使修补缺陷或添加新模型时无需担心破坏其他代码,同时提升代码可读性以适应机器学习领域的快速演进。
教程演示利用 Hugging Face datasets 和 transformers 库微调 Vision Transformer (ViT) 处理图像分类。使用 google/vit-base-patch16-224-in21k 模型及其配套的 ViTImageProcessor,通过加载 beans 数据集并应用标准化预处理,将图像转换为模型可接受的张量输入以完成微调流程。
Hugging Face 发布 Python 情感分析入门指南,展示如何用预训练模型实现自动化情感标记。教程提供 5 行代码示例,利用 `transformers` 库的 `pipeline` 函数调用 Hub 上超过 215 个公开模型,无需机器学习经验即可处理数据。
Hugging Face 展示了使用 AutoNLP 框架和 Explosion 的 Prodigy 标注工具构建主动学习流水线的过程。在 BBC 新闻分类数据集上,AutoNLP 训练的多类分类模型达到 98.67% 准确率,支持成本低至每个模型 $10。随后团队利用 Prodigy 完成命名实体识别标注,并将数据转换为 JSONL 格式以训练实体识别模型。
Hugging Face 宣布收购机器学习初创公司 Gradio,旨在为用户、开发者和数据科学家提供工具以创建更好的模型。Gradio 是一个开源库,自 2019 年发布以来,已有超过 300,000 个演示应用基于其构建。此次收购将加强机器学习在各类用户中的可访问性,双方团队将共同推动 Gradio 的发展。
OpenAI 宣布启动 OpenAI Residency 项目,旨在支持和培养 AI 人才。
Hugging Face 与 Intel 合作,通过 Intel 软件优化现代 CPU 上的 BERT 类模型推理。新一代 Ice Lake Xeon CPU 在 NLP 任务上的推理速度比 Cascade Lake 快 75%。文章介绍了利用 Intel oneAPI、oneMKL 等软件组件进行内存管理和高效并行计算,以最大化 CPU 性能。
Hugging Face 团队在“训练史上最佳句向量模型”项目中,利用 10 亿句对训练数据开发了最先进的句向量模型。该模型基于 Transformer 架构,采用 InfoNCE 对比学习方法,通过增大批量规模、引入困难负样本及跨数据集混合批次优化性能。
Transformer 架构已扩展至 NLP 之外,正成为机器学习通用架构,在计算机视觉、语音等领域表现高效。Google Vision Transformer 和 CoAtNet 在 ImageNet 图像分类中创下新基准,且所需计算资源更少。行业正从从零训练模型转向使用现成模型进行微调,以更快交付业务价值。
Gradio 与 Hugging Face Hub 集成使用户能利用 Inference API 通过几行代码演示模型。Spaces 支持免费托管基于 Python 的机器学习演示应用,创建仓库并选择 Gradio 为 SDK 即可快速部署。该集成支持 Transformers、spaCy 等框架,并可通过 Gradio Series 混合使用不同模型构建复杂演示。
Hugging Face 与 Amazon SageMaker 合作推出优化的深度学习容器,支持通过一行代码启动 Transformers 模型训练。
OpenAI 发布 Jukebox,这是一个能生成多风格、含基础演唱的原始音频音乐的神经网络模型。官方同时开源了模型权重、代码以及用于探索生成样本的工具。
Hugging Face 发布教程,演示使用 Transformers 和 Tokenizers 库从头训练 84M 参数的小模型 EsperBERTo。该模型在 3GB 的 Esperanto 语料库上预训练,后续针对词性标注任务进行微调。字节级 BPE tokenizer 训练耗时约 5 分钟,编码序列平均长度比 GPT-2 减少约 30%。
OpenAI 发布 7.74 亿参数的 GPT-2 语言模型,这是继今年 2 月发布 1.24 亿参数小模型、5 月发布 3.55 亿参数中等模型后的后续行动。官方同步推出开源法律协议以便机构建立模型共享伙伴关系,并发表技术报告说明与 AI 研究界协调发布规范的经验。
推荐理由:官方说明分阶段发布774M参数模型及开源协议,展示了协调AI社区处理潜在滥用的具体实践。
OpenAI 发布了名为 Spinning Up in Deep RL 的教育资源。该资源旨在帮助任何人成为熟练的深度强化学习实践者。其内容包括清晰的 RL 代码示例、练习、文档和教程。
OpenAI 发布强化学习游戏研究平台 Gym Retro 完整版本,支持游戏数量从约 70 款 Atari 和 30 款 Sega 游戏扩展至超过 1,000 款。同时发布了用于向平台添加新游戏的工具。
OpenAI 开源了 RL-Teacher,这是一种通过不定期的人类反馈来训练 AI 的接口实现,替代了手工制作的奖励函数。该底层技术最初是为开发安全的 AI 系统而设计的,但也适用于奖励难以明确指定的强化学习问题。
OpenAI 发布开源软件 Roboschool,用于机器人仿真,并集成到 OpenAI Gym 生态中。
推荐理由:官方推出集成 OpenAI Gym 的机器人仿真开源工具,可供算法开发者在虚拟环境复现控制策略实验。