IEEE Spectrum · AI· Matthew S. Smith·· 21 天前精选AI 评分78
OpenAI 如何用自家 LLM 设计 Jalapeño 芯片
How OpenAI Used Its Own LLMs to Design Its Jalapeño Chip
AI 导读
OpenAI 于 8 月 25 日完整发布其首款 AI 加速芯片 Jalapeño，该芯片提供最高 13.4 petaflops 的 4-bit 算力、232 GB 内存和 15.4 TB/s 带宽，OpenAI 引用的基准显示其端到端延迟相比 Nvidia GB300 最多降低 3.6 倍且功耗更低。
推荐理由
OpenAI 首次公开自研芯片 Jalapeño 的设计流程，读者可了解 LLM 在芯片前端设计中的具体介入方式与提速幅度。
来源：IEEE Spectrum · AI · spectrum.ieee.org