谷歌使用第四代TPU加速器来驱动超过90%的人工智能训练

在2021年的Google I/O大会上，Google宣布推出第四代TPU加速器。在2022年，他们又宣布使用第四代TPU加速器来构建最大规模的机器学习中心，并强调使用90%无碳排放能源运作。稍早时，他们还强调说第四代TPU加速器将驱动超过90%的人工智能训练，并暗示接下来可能会推出新一代TPU加速器。

谷歌宣布第四代TPU加速器比第三代提高了10倍以上的深度学习性能，同时在现有深度学习DSA算法过程中可降低2-3倍的能耗，并且可以减少传统内部数据中心运作过程中高达20倍以上的二氧化碳排放量。

谷歌表示，通过第四代TPU加速器的性能表现、可扩展性和节能等特点，将推动大型自然语言模型训练并显著降低数据中心整体能耗问题。谷歌最近公布了其拥有540亿个参数组成的最大规模自然语言模型PaLM，是通过采用第四代TPU加速器超级计算机进行50天以上时间训练而成。

此外，新创业者Midjourney提供以文字自动生成图像的人工智能服务也是通过Google使用第四代TPU加速器为设计的超级计算机来训练其模型。与NVIDIA以Ampere架构打造的A100加速器相比，在相同建置规模下，第四代TPU加速器在算力表现上约提升1.7倍，在能耗方面则降低1.9倍。

虽然谷歌没有进一步与NVIDIA后续推出以Hopper架构打造的H100加速器进行比较，但暗示将推出新一代TPU加速器与H100加速器对抗。目前还没有公布具体细节，或许会在今年度的Google I/O 2023期间说明。