OpenAI Jalapeño 是什么？自研推理芯片跑分解读

Jalapeño 本来是墨西哥辣椒的名字，现在它多了一层身份：OpenAI 第一颗完全自研的 AI 推理芯片。它 2026 年 6 月 24 日首次对外展示，8 月 25 日通过 OpenAI 官方博客 放出首份实测成绩，核心结论是每瓦能跑的 AI 工作量达到对比系统的 1.5 至 1.9 倍、端到端延迟低 1.7 至 3.6 倍。本文把官网原始数字、已核实的媒体口径，以及普通用户该怎么理解这件事一次讲清。

Jalapeño 是什么：一颗只给 OpenAI 自己用的推理芯片

一句话定义：Jalapeño 是 OpenAI 与博通（Broadcom）合作开发、台积电 3nm 制程代工的首款自研 AI 推理芯片，走 ASIC（专用集成电路）路线，只负责大语言模型推理、不用于训练，且不对外销售，仅供 OpenAI 内部使用。

把它和普通芯片区分开的关键信息有四条：

1. 架构采用 systolic array 脉动阵列，配 HBM 高带宽内存，专为大模型推理场景定制。
2. 硬件负责人 Richard Ho 此前在 Google 工作近九年，是 Cloud TPU 项目核心工程师，2025 年加入 OpenAI 后领导硬件团队。
3. OpenAI 自家的 AI 模型深度参与了芯片设计流程，官方称 AI 帮助把从架构设计到流片的时间压到九个月。
4. 它是多代平台的第一步：第二代已进入后期开发、预计未来数月流片，第三代已启动概念设计。

官方跑分怎么读：每瓦吞吐 1.5 到 1.9 倍

8 月的测试用半导体研究公司 SemiAnalysis 的公共基准工具 InferenceX，跑了三个模型，对比对象是英伟达 GB200 和 GB300 系统。官方博客 Jalapeño's first results 给出的三组数字如下：

把绝对值也摊开看更直观。在 GPT-OSS 120B 上，Jalapeño 做到每千瓦 85,448 个混合 token，对比系统是 44,960；延迟方面，端到端从 1.80 秒降到 1.03 秒，单用户首 token 延迟（TBT）从 1.87 毫秒降到 0.69 毫秒，也就是 1,459 对 535 token/秒/用户。

另外两个数字同样关键：芯片额定功率 700 瓦，但测试负载下持续功耗保持在 550 瓦以下；被对比的 GB200 单封装功耗标称 1,200 瓦，计量基准不同，所以官方强调「每瓦」而不是「每颗」。官方还提到，在高度交互的场景里性能提升可达 2.1 到 4.1 倍。

三个容易被读过头的前提

跑分之外，有三个前提官方写得清清楚楚，忽略它们就会得出过头的结论。

1. 全部成绩是 OpenAI 自测口径。测试工具 InferenceX 来自第三方 SemiAnalysis，但测试由 OpenAI 自己执行，没有独立第三方复现，也没有公开完整测试脚本。
2. 对比对象不含英伟达最新一代。官方只比了 GB200 和 GB300，没有和英伟达下一代 Vera Rubin 对比，所以「超过英伟达」只在被对比的这两代范围内成立。
3. 每瓦优势不等于单卡绝对性能。Jalapeño 只对特定推理负载高效，无法像 GPU 那样灵活处理训练和新场景，这也是它只部署在自家、不对外销售的根本原因。

9 个月流片背后的三个细节

这颗芯片的开发节奏本身就是一个故事：

1. 从架构设计到完成流片只用了约 9 个月，OpenAI 称这是高性能先进半导体领域有史以来最快的 ASIC 开发周期之一。
2. 官方披露 AI 直接参与了设计：AI 帮助优化芯片的算术电路，让团队在既定进度内塞进更多算力。
3. 用 Codex 配合 GPT-Astra，团队在两个月内把三个原本不在生产计划里的开源模型调到高性能；在 GPT-OSS 部分注意力与 MoE 模块上，AI 生成的实现比人类专家手写版本快 1.5 到 1.8 倍，官方特别注明这只针对被选中的模块，不是整模型。

为什么 OpenAI 要自己造芯片

答案写在账本上。OpenAI 的推理需求长期靠英伟达 GPU 支撑，采购和运营成本是最大开支之一。自研 ASIC 的逻辑和谷歌做 TPU 一样：把通用芯片里用不到的部分全部砍掉，只保留大模型推理需要的电路，同样任务就能用更少的电、更低的单价完成。

官方博客里还有一句更直白的说法：目标是让「有用的工作量」增长快于服务成本增长。对一家推理需求持续膨胀的公司来说，这是最高优先级的成本杠杆。

对普通用户意味着什么

Jalapeño 不发售，普通用户永远买不到，但它间接决定两件事：一是 ChatGPT 等服务的响应速度，自研芯片的延迟优势若兑现，长思考模型的等待时间会缩短；二是订阅价格的上行空间，推理成本被压下来后，OpenAI 才有余力在同等定价下给更多用量。官方也把这一点写进了路线图：计划年底前在自家算力基础设施里开始部署，随后逐步放量。这也解释了为什么 OpenAI 强调英伟达仍是重要合作伙伴、继续多供应商策略：自研芯片是成本杠杆，不是全面替代。

想理解 OpenAI 在底层技术上的其他动作，可以配合阅读 Looped Transformer 是什么？OpenAI Astra 用它把 35 亿参数跑出 500 亿算力，以及 GPT-6 Astra 正式发布：成绩单、定价与 Codex 接入全解读。

芯片之外，模型侧的最新动态可见 GPT-6 发布了吗？Astra 上线与价格额度说明。

它会取代英伟达吗

短期内不会，两者根本不在一个竞争面上。Jalapeño 是 ASIC，只对特定推理负载高效，无法像 GPU 那样灵活处理训练和新场景；它的部署规模要等 2027 年才逐步扩大，而 OpenAI 的总算力缺口依然巨大。更合理的理解是：推理这条最稳定、最烧钱的负载逐渐流向自研芯片，训练和探索性负载继续留在英伟达生态里。