Will Hurd 加入 OpenAI 董事会
Will Hurd 正式加入 OpenAI 董事会。OpenAI 认为实现其使命需要公共政策与技术方面的专长,因此很高兴宣布这一任命。此举旨在结合公共政策经验,共同推动能够造福全人类的通用人工智能的发展。
Will Hurd 正式加入 OpenAI 董事会。OpenAI 认为实现其使命需要公共政策与技术方面的专长,因此很高兴宣布这一任命。此举旨在结合公共政策经验,共同推动能够造福全人类的通用人工智能的发展。
OpenAI 团队发现 CLIP 模型中存在一种能够对同一概念的字面、符号及概念呈现均产生响应的神经元。该发现解释了 CLIP 在面对意外视觉呈现时的高分类准确率,并为理解 CLIP 及类似模型学习到的关联与偏见提供了重要依据。
Hugging Face 宣布其库已支持通过 PyTorch/XLA 在 Cloud TPU 上训练模型,用户可保持原有 Trainer 接口不变。该集成利用 PyTorch 与 TPU 团队的合作成果,允许用户在 TPU 上运行和扩展模型,同时提供性能基准测试和训练示例。
OpenAI 将 Kubernetes 集群扩展至 7,500 个节点,为 GPT-3、CLIP 和 DALL·E 等大模型构建了可扩展的基础设施。这一扩展同时支持了《神经语言模型规模定律》等快速小规模迭代研究。
OpenAI 介绍了一种名为 CLIP 的神经网络,它通过自然语言监督高效学习视觉概念。CLIP 可用于任何视觉分类基准,只需提供要识别的视觉类别名称即可,具有类似 GPT-2 和 GPT-3 的零样本能力。
推荐理由:展示了通过自然语言监督学习视觉概念的方法,确立了零样本图像分类的新范式。
OpenAI 发布组织更新,表示过去一年经历了巨大变革与成长。
OpenAI已同意向微软授权GPT-3技术,允许其将其用于自有的产品和服务中。
推荐理由:该交易确立了大厂间基于核心模型的独家授权模式,为后续行业竞争格局提供了关键参考。
OpenAI 将基于人类反馈的强化学习应用于语言模型训练,以提升其摘要性能。
OpenAI 与 AIcrowd、卡内基梅隆大学及 DeepMind 共同组织 NeurIPS 2020 两项竞赛,分别基于 Procgen Benchmark 和 MineRL。
OpenAI 发布 Image GPT,基于在像素序列上训练的大型 Transformer 模型生成连贯的图像补全和样本。研究建立样本质量与图像分类准确度的关联,证明其最佳生成模型在无需监督的情况下,特征表现可与顶级卷积网络竞争。
OpenAI 官方宣布推出 API,允许开发者接入 OpenAI 开发的新 AI 模型。
推荐理由:官方说明新增了访问 OpenAI 新模型的入口,读者可据此判断如何接入其生成式模型能力。
OpenAI 发布分析显示,自 2012 年以来,在 ImageNet 上训练神经网络达到同等性能所需的计算量每 16 个月减少一半。与 2012 年相比,现在训练至 AlexNet 水平的计算成本降低了 44 倍,远超同期摩尔定律带来的 11 倍提升。研究结果表明,在近期高投入的 AI 任务中,算法进步带来的收益超过了传统硬件效率提升。
OpenAI 发布 Jukebox,这是一个能生成多风格、含基础演唱的原始音频音乐的神经网络模型。官方同时开源了模型权重、代码以及用于探索生成样本的工具。
OpenAI 参与由 58 位合著者撰写的多利益相关方报告。报告提出 10 种机制改进 AI 系统声明的可验证性,开发者可用其提供 AI 安全、安全、公平或隐私保护证据。
OpenAI 发布 Microscope,这是一套针对八种常用于可解释性研究的视觉“模式生物”的可视化工具。该工具涵盖了所有关键层和神经元的可视化,便于分析神经网络内部形成的特征。
OpenAI 宣布将其深度学习框架标准化为 PyTorch。
推荐理由:宣布了技术栈统一,帮助判断其工程选型与内部开发范式的变化。
OpenAI 研究显示,CNN、ResNet 和 Transformer 模型在参数或数据规模增大时均出现“双重下降”现象,即性能先升、后降、再升。该现象可通过正则化避免,但成因尚未完全阐明,被视为重要研究方向。
OpenAI 发布 Procgen Benchmark,提供 16 个简单易用的程序化生成环境。该基准直接衡量强化学习智能体学习可泛化技能的速度。
OpenAI 发布 Safety Gym,这是一套用于评估强化学习智能体在训练中遵守安全约束能力的环境与工具集。该工具包旨在帮助开发者衡量迈向安全 AI 模型的进展。
OpenAI 发布 GPT-2 阶段发布计划的最后一版,即 1.5B 参数模型,并开放代码与模型权重,便于检测 GPT-2 模型输出。原文说明,尽管 8 月以来已有更大的语言模型发布,OpenAI 仍按原计划推进,希望这一完整的阶段发布实践能对未来开发强大模型的团队有帮助,并继续与 AI 社区讨论负责任的发布方式。
推荐理由:GPT-2 1.5B 作为阶段发布计划最后一版同步开放代码与权重,为社区提供了检测 GPT-2 输出的工具。
OpenAI 训练了一对完全在模拟环境中学习的神经网络,使类人机械手能够解开魔方。该系统结合 OpenAI Five 使用的强化学习代码与自动域随机化(ADR)技术,展现出处理未见过的物理世界问题(如被物体干扰)所需的灵巧性,证明了强化学习在解决需要高精度操作的实际任务中的潜力。
OpenAI 利用人类反馈对 774M 参数 GPT-2 模型进行了微调。该模型成功匹配了外部标注者的偏好,但摘要任务需 60k 标注,风格化续写任务仅需 5k。其目标是将安全技术应用拓展至“机器与人类对话”这一通用任务。
OpenAI 观察到智能体在玩捉迷藏游戏时,通过训练逐步发现更复杂的工具使用。在模拟环境中,智能体构建了六种不同的策略和反制策略,部分策略超出环境原有设计。这表明多智能体共同适应可能产生极其复杂和智能的行为。
OpenAI 开发了一种评估神经网络分类器能否可靠防御未见对抗攻击的方法。该方法提出了新指标 UAR,用于衡量单个模型在遭遇未预期攻击时的鲁棒性,并强调需在更广泛的未知攻击范围内衡量性能。
OpenAI 发布 7.74 亿参数的 GPT-2 语言模型,这是继今年 2 月发布 1.24 亿参数小模型、5 月发布 3.55 亿参数中等模型后的后续行动。官方同步推出开源法律协议以便机构建立模型共享伙伴关系,并发表技术报告说明与 AI 研究界协调发布规范的经验。
推荐理由:官方说明分阶段发布774M参数模型及开源协议,展示了协调AI社区处理潜在滥用的具体实践。
微软宣布向OpenAI投资10亿美元,双方将合作开发Azure平台内可规模化至AGI的软硬件平台。根据协议,微软成为OpenAI的独家云服务商,双方将共同开发新一代Azure AI超计算技术,并致力于扩展其在大规模AI系统中的能力。
推荐理由:披露了微软投资10亿美元并建立Azure独家云合作的具体条件,为理解双方硬件加速与AI算力布局提供基准。
OpenAI 发布政策研究论文,识别出沟通风险、技术协作、提高透明度和激励标准制定四种当前可用的策略,以提升长期行业安全合作的几率。分析指出,行业在安全规范上的合作对确保 AI 系统安全有益至关重要,但竞争压力可能导致集体行动问题,使 AI 公司低估对安全的投资。
OpenAI 第二届学者项目结业,8位学员在演示日展示最终项目。
OpenAI 推出 MuseNet,这是一款能生成包含 10 种乐器、长达 4 分钟音乐作品的深度神经网络。它利用与 GPT-2 相同的无监督 Transformer 技术,通过学习预测数十万 MIDI 文件的下一个 token 来掌握和声、节奏与风格,并能融合乡村音乐、莫扎特及披头士乐队的风格。
OpenAI 提出能量模型(EBM)的隐式生成与泛化方法,实现了稳定且可扩展的训练。该方法生成的样本质量优于现有模型,在低温下具备与 GAN 竞争的能力,并拥有似然模型的模式覆盖保证。
OpenAI 创立了名为 OpenAI LP 的新“限制利润”公司。该结构旨在加速增加对算力及人才的投入,同时通过设置检查制衡机制来落实公司使命。
推荐理由:原文说明了通过设立限制利润实体以加速算力投入且保障使命的机制,读者可据此判断其资金组织形式与研发优先级。
OpenAI 与 Google 研究员合作发布激活图谱(Activation Atlases),这是一种可视化神经元交互表征的新技术。该技术支持识别 AI 系统的弱点并调查故障,有助于理解其在敏感场景中的内部决策过程。
OpenAI 发布 Neural MMO,这是一个面向强化学习智能体的大规模多智能体游戏环境。该平台支持在持久且开放式的任务中容纳数量可变的大规模智能体,通过引入大量智能体和物种促进更好的探索、分化的利基形成以及整体更强的综合能力。
OpenAI 在 2 月 2 日举办了首届 Spinning Up 深度强化学习工作坊。这是 OpenAI 新教育计划的一部分。
OpenAI 发表论文,主张长期 AI 安全研究需引入社会科学家,以确保涉及真实人类时 AI 对齐算法的有效性。该工作旨在推动机器学习与社会科学研究者之间的进一步合作,并计划招聘社会科学家全职参与 OpenAI 的相关项目。
OpenAI 训练了一个大规模无监督语言模型,该模型能生成连贯段落,在多个语言建模基准测试中达到最先进性能。该模型无需特定任务训练即可执行基础阅读理解、机器翻译、问答和摘要任务。
OpenAI 首批 Fellows 完成为期 6 个月的学徒计划,参与者从机器学习初学者成长为 OpenAI 核心贡献者。
OpenAI 发现梯度噪声尺度这一统计指标能预测神经网络训练的可并行性。由于复杂任务梯度噪声更大,未来可能需要更大的批量大小以突破扩展限制。该研究表明神经网络训练可被系统化,而非神秘的技艺。
OpenAI 发布强化学习训练环境 CoinRun,提供衡量智能体将经验迁移至新场景能力的指标。该环境复杂度低于索尼克等传统平台游戏,但足以挑战当前先进算法的泛化能力,并已帮助澄清强化学习领域长期存在的谜题。
OpenAI 发布了名为 Spinning Up in Deep RL 的教育资源。该资源旨在帮助任何人成为熟练的深度强化学习实践者。其内容包括清晰的 RL 代码示例、练习、文档和教程。