OpenAI 团队负责人谈持续学习的潜力
OpenAI 研究总监 Lilian Weng 撰写文章探讨持续学习(Continuous Learning)对人工智能模型的重要性。文章主张解决灾难性遗忘问题,使 AI 系统能够像人类一样从新经验中不断适应和进化,而不必从零开始重新训练。
OpenAI 研究总监 Lilian Weng 撰写文章探讨持续学习(Continuous Learning)对人工智能模型的重要性。文章主张解决灾难性遗忘问题,使 AI 系统能够像人类一样从新经验中不断适应和进化,而不必从零开始重新训练。
OpenAI 发布 Point-E 模型,该系统能够从复杂提示词生成 3D 点云。
推荐理由:官方发布3D点云生成模型,展示了从复杂提示词生成三维空间结构的技术能力。
OpenAI 宣布推出一款新的嵌入模型。该模型在能力上显著增强,更具成本效益,且使用更简单。
RLHF 利用人类反馈直接优化大语言模型,使其对齐复杂的人类价值观。该流程包含预训练语言模型、收集数据并训练奖励模型、使用 PPO 强化学习微调语言模型三个核心步骤。Hugging Face 介绍了当前活跃的开源工具 TRL、TRLX 和 RL4LMs,并梳理了该领域的发展脉络、现存挑战及后续方向。
推荐理由:将多模型协同训练的复杂机制拆解为三阶段并梳理开源工具,帮助读者建立对RLHF完整管线的实操理解。
OpenAI 发布能进行对话式交互的模型 ChatGPT,支持回答追问、承认错误、反驳错误前提并拒绝不当请求。
推荐理由:ChatGPT 官方首次介绍,明确了对话式交互和纠正错误、拒绝不当请求等能力边界。
VQ-Diffusion 是中科大与微软提出的条件潜扩散模型,其加噪和去噪过程在由离散向量组成的量化潜空间上进行。文中介绍了 VQ-VAE 编码器将图像转换为离散 token 的流程,并解释了基于 Transformer 的近似逆向过程。
OpenAI 宣布 DALL·E API 开始接受公开测试。即日起,开发者即可使用该 API 构建应用程序。
Hugging Face 发布教程,演示如何使用 Transformers 库微调 OpenAI 的 Whisper 模型以适配多语言语音识别。教程以 Common Voice 11.0 中的印地语数据为例,展示了从数据准备、特征提取到模型训练的全流程。使用约 8 小时的小规模数据对 Whisper small 进行微调后,模型在测试集上的词错误率从 63.5% 降至 32.0%。
OpenAI 官方宣布 DALL·E 现已取消等待名单,新用户可立即开始创建。该变更基于此前部署经验及安全系统的改进实现。
推荐理由:官方宣布 DALL·E 开放入口,基于部署经验与安全改进的可用性变化是核心信息。
OpenAI 训练并开源了名为 Whisper 的神经网络,其在英语语音识别上具备接近人类水平的鲁棒性和精度。
推荐理由:官方开源了具备类人鲁棒性和精度的英语语音识别模型。
OpenAI 为 DALL·E 推出外部绘图(outpainting)功能。该功能允许用户生成任意尺寸的图像,以扩展创意并讲述更宏大的故事。
OpenAI 旨在提升 AI 系统学习人类反馈及协助评估 AI 的能力。其目标是构建足够对齐的 AI 系统,以帮助解决其他所有对齐问题。
OpenAI 推出改进版内容审核工具,提供新的 Moderation endpoint。该端点优化了此前的内容过滤器,并免费向 OpenAI API 开发者开放。
OpenAI 宣布 DALL·E 已开放测试版访问。平台将在未来数周内向候补名单上的 100 万人发送邀请,用户可使用每月自动重置的免费额度生成图像,亦可按 115 次生成计 15 美元的价格购买额外额度。
推荐理由:官方公告说明了 DALL·E 测试版的用户邀请计划与具体计费模式,方便读者了解早期使用成本。
OpenAI 在 DALL·E 2 中实施新技术,使其生成的人物图像更能准确反映世界人口的多样性。
来自 118 个国家的 3000 多名艺术家已将 DALL·E 整合进创作工作流。这些早期访问用户帮助发现了 DALL·E 的新用途,并在制定 DALL·E 功能决策时提供了关键意见。
OpenAI 针对 DALL·E 2 实施了多项预训练安全措施,以降低强大图像生成模型的相关风险。通过设置防护栏,防止生成图像违反其内容政策,从而在向广泛用户开放该模型时保障合规性。
OpenAI 通过视频预训练(VPT)方法,利用大量无标注人类 Minecraft 游戏视频和少量标注数据训练神经网络,使其学会使用原生键盘鼠标界面操作。经微调后,模型能完成制作钻石工具任务,该任务熟练人类需超过 20 分钟(24,000 次动作)。此成果代表了迈向通用计算机使用智能体的一步。
OpenAI 训练了“批评写作”模型,用于描述摘要中的缺陷。人类评估者在查看模型生成的批评后,更频繁地发现摘要错误。实验显示,更大规模模型的自我批评能力优于其摘要生成能力,提升了 AI 辅助人类监督的效果。
大型神经网络是近期多项AI进展的核心,训练这类模型是一项具有挑战性的工程与研究任务,需要协调一组GPU执行同步计算。
Cohere、OpenAI 和 AI21 Labs 联合制定了一套适用于任何开发或部署大型语言模型组织的初步最佳实践指南。
OpenAI 的 Codex 模型目前通过 OpenAI API 支撑着 70 款不同的应用程序。这些应用涵盖了多种使用场景。 **解析:** 1. **标题自洽**:原标题 "Powering next generation applications with OpenAI Codex" 点出了主体 "OpenAI Codex" 和动作 "Powering"。
OpenAI 更新 DALL·E 2 研究预览版,早期用户已创建超过 300 万张图像并协助完善安全流程。平台每周将开始从候补名单中新增最多 1000 名用户。
OpenAI 宣布多项高管职务变动。这些调整反映了公司近期的进展,旨在确保向下一重大里程碑保持持续动力。
OpenAI 发布 GPT-3 和 Codex 新版本,支持在现有文本中进行编辑或插入内容,而非仅完成补全。
OpenAI 发起意向征集,寻找研究大语言模型经济影响的合作伙伴。该计划旨在通过学术研究探讨大型 AI 模型对宏观经济及劳动力市场的具体影响,目前处于寻求研究主体或合作方案的阶段。
OpenAI 分享了其最新思考,旨在帮助其他 AI 开发者应对已部署模型的安全与滥用问题。
OpenAI 开发了一个针对 Lean 语言的神经定理求解器(Neural Theorem Prover),该工具能够解决包括 AMC12、AIME 以及改编后的 IMO 在内的多种高难度高中数学竞赛题目。
OpenAI 发布了 InstructGPT 模型,该模型比 GPT-3 更擅长遵循用户意图,同时具有更高的真实性且毒性更低。InstructGPT 通过人类在环的技术进行训练,目前已成为 OpenAI API 的默认语言模型。
推荐理由:InstructGPT 将人类在环训练引入默认 API 模型,展示了提升指令遵循与降低毒性对齐的具体路径。
OpenAI 在 API 中推出 embeddings 端点,支持语义搜索、聚类、主题建模和分类等自然语言及代码任务。
推荐理由:该功能为文本和代码任务提供了统一的向量化入口,读者可以据此了解 OpenAI API 在语义检索和分类等场景中的具体应用。
OpenAI 微调 GPT-3,利用文本网页浏览器回答开放性问题,以提升模型的事实准确性。
OpenAI 提供了针对 GPT-3 的应用定制方法,核心能力是通过单条命令实现模型微调。该流程允许开发者便捷地调整模型行为,以适应特定应用需求。
OpenAI 宣布启动 OpenAI Residency 项目,旨在支持和培养 AI 人才。
OpenAI 宣布其 API 已无需等待名单即可使用。官方称,这一范围的扩大得益于安全进展。
推荐理由:这是 OpenAI 官方里程碑,读者可据此确认其 API 已全面开放且无需排队申请,并了解开放与模型安全进展挂钩的官方叙事。
OpenAI 训练的系统在小学数学应用题测试中,准确率约为 GPT-3 微调模型的近两倍。该系统解题正确率约达 90% 的小学生水平;在 9-12 岁儿童得分率 60% 的测试集上,该系统得分为 55%。
研究团队使用 RSICD、UCM 和 Sydney 数据集微调了 OpenAI 的 CLIP 模型,以提升其在遥感卫星图像上的性能。该模型支持通过文本查询在大型卫星图像集合中进行搜索,可用于监测气候变化或国土防御。训练过程结合了图像变换和 Marian MT 模型进行文本数据增强,以缓解过拟合并提高模型在零样本场景下的可用性。
该条目为 OpenAI 发布的 TruthfulQA 基准测试,用于评估语言模型在回答问题时模仿人类虚假陈述的程度。由于原文抓取失败,具体指标细节缺失,仅保留标题信息。
OpenAI 发布改进版 Codex 系统,该系统将自然语言转化为代码,即日起通过 API 提供私有测试服务。
OpenAI 开源发布 Triton 1.0,这是一种类 Python 的 GPU 编程语言。该语言旨在让没有 CUDA 经验的研究人员能够编写高效的 GPU 代码,其性能在大多数情况下可与专家编写的代码相当。
OpenAI 最新研究发现,通过在小型精选数据集上进行微调,可以改进语言模型在特定行为价值观方面的表现。