感谢网友 肖战割割、OC_Formula 的线索投递!

12 月 7 日消息,谷歌在推出全新大语言模型 Gemini 1.0 之外,还宣布了增强版 Tensor Processing Unit(TPU)芯片,最新型号为 TPU v5p。

训练 GPT3-175B 模型最高快 180%,谷歌宣布云端 AI 芯片 TPU v5p-编程知识网

谷歌目前已经在 YouTube、Gmail、Google Maps、Google Play 和 Android 等产品服务中使用 TPU 芯片,最新版本是谷歌迄今为止功能最强大、可扩展性最强和最灵活的 AI 加速器芯片。

注:在性能方面,谷歌 TPU v5p 在 bfloat16 精度下,可以实现 459 teraFLOPS;在 Int8 精度下,可以实现 918 teraOPS

与 TPU v4 相比,新发布的 TPU v5p 具有两倍的 FLOPS(每秒浮点运算)和三倍的高内存带宽提升。

训练 GPT3-175B 模型最高快 180%,谷歌宣布云端 AI 芯片 TPU v5p-编程知识网

谷歌表示在 BF16 精度下,训练 OpenAI 拥有 1750 亿参数的 GPT3,比此前的 TPU v4 AI 加速器芯片快 90%;如果在 Int8 精度下可以达到 180%。

训练 GPT3-175B 模型最高快 180%,谷歌宣布云端 AI 芯片 TPU v5p-编程知识网

每个 TPU v5p 加速器的运行费用为每小时 4.20 美元,这比 TPU v4(每小时运行费用为 3.22 美元)和 TPU v5e(每小时运行费用为 1.20 美元)贵一点。

训练 GPT3-175B 模型最高快 180%,谷歌宣布云端 AI 芯片 TPU v5p-编程知识网