- 发布日期
OpenAI如何利用自家大语言模型设计其墨西哥辣椒薯片
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
OpenAI 于 8 月 25 日全面发布了其首款 AI 加速器芯片 Jalapeño。该芯片提供高达 13.4 petaflops 的 4 位计算能力，并以每秒 15.4 TB 的速度访问 232 GB 的高级内存。根据 OpenAI 的基准测试，与 OpenAI 目前依赖的 Nvidia GB300 芯片相比，Jalapeño 可以将端到端延迟降低多达 3.6 倍，同时功耗更低。
这些数字是否能转化为实际收益还有待观察，但设计过程同样值得注意。Jalapeño 从最初架构概念到首颗芯片仅用了不到 20 个月。从首个寄存器传输级（RTL）代码到流片（即设计定稿交付制造）之间只隔了九个月。
OpenAI 使用自己的大型语言模型来加速设计。OpenAI 硬件副总裁 Richard Ho 表示，这些模型赋予工程师“超能力”，使他们能够探索更多路径并大幅加快工作速度。他强调，工程师仍然是工作的最终裁决者。
在整个项目期间，设计团队平均不到 100 人，如今规模也大致如此。OpenAI 负责端到端系统设计，包括推理加速器、内存层次结构和网络。博通（Broadcom）作为合作伙伴参与该项目，负责从门级网表开始的物理设计。
专家们给予了有保留的赞扬。芯片设计初创公司 Verkor.io 的联合创始人 David Chin 称这一时间表可信，但表示博通的帮助至关重要。同为 Verkor 联合创始人的 Ravi Krishna 将这一速度描述为“相对令人印象深刻的结果”，并预测改进后的 LLM 可能使未来的时间线更快。
加州大学圣迭戈分校杰出教授 Andrew Kahng 表示，这一速度“很可能在当今处于最佳水平”。他回忆起 2016 年的一次研讨会，当时 Ho 将芯片设计时间视为每日迭代次数的函数。马里兰大学的 Ankur Srivastava 指出，自动化已经存在了几十年，但 LLM 独特地理解语言和代码。
OpenAI 已经在推进第二代和第三代设计。随着 LLM 的改进并更深入地集成到芯片设计工具中，行业目前快速的时间线可能很快就会显得缓慢。
