谷歌用第四代 TPU 加速器建立最大的机器学习中心

　　继去年发布第四代 TPU 加速器之后，在 Google I/O 2022 上，Google 宣布八组 Cloud TPU v4 Pod 计算设备将组成最大的机器学习中心，并强调使用 90% 无碳驱动的能量。

　　在之前的描述中，谷歌表示第四代 TPU 加速器的计算性能比上一代提升了一倍，由 4096 组第四代 TPU 加速器组成的 POD 计算设备也可以对应超过 1 exaFLOPS计算性能。该机器学习中心由 8 套 Cloud TPU v4 Pod 计算设备组成。峰值运算可达到每秒 900 万 teraflops，使其成为全球最大的公共机器学习中心，并将通过 Google Cloud 服务向公众开放。

　　包括 Cohere、LG AI Research、Meta AI 和 Salesforce Research 在内的行业团队实际上已经体验过 Google 的机器学习中心。它可以通过TPU VM架构搭建交互式开发环境，可以灵活应用JAX和PyTorch等机器学习框架，或者TensorFlow。此外，更快的互连和优化的软件堆栈功能创造了更好的性能和可扩展性。

　　谷歌这次在 Google I/O 2022 上提到的 PaLM（Pathways Language Model）语言模型是通过 2 组 TPU v4 Pods 训练出来的，对应更快的语言翻译和理解。