OpenAI硬件副总裁Richard Ho详述Jalapeño推理芯片架构设计与AI基础设施规划

OpenAI硬件副总裁Richard Ho受访，详述Jalapeño推理芯片如何通过HBM与核心直连的架构减少数据移动以提升能效，并解释选用通用架构而非分离式架构以优化数据中心算力的灵活性。团队利用AI模型加速PPA优化与内核调整，在9个月内完成设计流片，目前Jalapeño已在InferenceX基准测试中超越Nvidia Blackwell。