谷歌使用第四代TPU加速器来驱动超过90%的人工智能训练

图片[1]-谷歌使用第四代TPU加速器来驱动超过90%的人工智能训练-弦外音

在2021年的Google I/O大会上,Google宣布推出第四代TPU加速器。在2022年,他们又宣布使用第四代TPU加速器来构建最大规模的机器学习中心,并强调使用90%无碳排放能源运作。稍早时,他们还强调说第四代TPU加速器将驱动超过90%的人工智能训练,并暗示接下来可能会推出新一代TPU加速器。

谷歌宣布第四代TPU加速器比第三代提高了10倍以上的深度学习性能,同时在现有深度学习DSA算法过程中可降低2-3倍的能耗,并且可以减少传统内部数据中心运作过程中高达20倍以上的二氧化碳排放量。

谷歌表示,通过第四代TPU加速器的性能表现、可扩展性和节能等特点,将推动大型自然语言模型训练并显著降低数据中心整体能耗问题。谷歌最近公布了其拥有540亿个参数组成的最大规模自然语言模型PaLM,是通过采用第四代TPU加速器超级计算机进行50天以上时间训练而成。

此外,新创业者Midjourney提供以文字自动生成图像的人工智能服务也是通过Google使用第四代TPU加速器为设计的超级计算机来训练其模型。与NVIDIA以Ampere架构打造的A100加速器相比,在相同建置规模下,第四代TPU加速器在算力表现上约提升1.7倍,在能耗方面则降低1.9倍。

虽然谷歌没有进一步与NVIDIA后续推出以Hopper架构打造的H100加速器进行比较,但暗示将推出新一代TPU加速器与H100加速器对抗。目前还没有公布具体细节,或许会在今年度的Google I/O 2023期间说明。

© 版权声明
THE END
喜欢就支持一下吧
点赞0 分享
评论 抢沙发
头像
欢迎您留下宝贵的见解!
提交
头像

昵称

取消
昵称表情代码图片

    暂无评论内容