- 发布日期
谷歌为 Gemini 打造定制芯片,引发投资者高度关注
- 作者

- 姓名
- 荷鲁斯快报
- 社交账号
据报道,谷歌正在开发一款代号为Frozen v2的专用人工智能芯片,该芯片专为运行其Gemini模型设计,效率显著提升。据The Information周一报道,随着AI计算需求超过服务器供应,谷歌面临日益严重的容量限制,这款芯片是解决该问题的战略举措。通过将Gemini的部分架构硬连线到芯片中,工程预测显示,该芯片的效率可能比当前的张量处理单元(TPU)提高六到十倍。
尽管进行了大规模基础设施投资,谷歌一直在努力满足AI计算需求。今年3月,该公司告知Meta,无法满足Meta想要购买的Gemini计算量,迫使Meta在其员工中配给AI使用。谷歌今年在AI基础设施上的支出高达1900亿美元,但仍因服务器容量不足而不得不拒绝客户。Frozen v2旨在通过大幅降低每次查询的运行成本来缓解这一瓶颈。
与谷歌现有的可处理任何AI模型的TPU不同,Frozen v2将Gemini的部分架构(其结构蓝图)直接嵌入硬件中。这种设计在机器学习中被称为“冻结”,即锁定架构,同时保留模型可更新的权重。通过跳过冗余计算并减少跨内存的数据混洗,该芯片预计可将每瓦特生成的令牌数提高六到十倍。这种效率提升可能使谷歌以一次查询的电力成本处理十次查询。
这对谷歌的竞争地位影响重大。运行成本更低的Gemini可以帮助该公司与OpenAI、Anthropic以及中国AI实验室竞争,这些实验室已占据美国公司AI令牌使用量的45%,主要因为其价格便宜60-90%。虽然用户可能不会注意到Gemini性能的差异,但谷歌的每次查询利润将变得更加丰厚。
阅读原文 →来源:decrypt