Google 宣布推出适用于 AI 工作负载的 Cloud TPU 虚拟机

Cloud TPU 虚拟机的全面发布意味着用户不再需要远程访问 Cloud TPU。

Google Cloud 宣布全面推出适用于人工智能工作负载的 TPU 虚拟机（VM）。

正式发布版本包括一个新的 TPU 嵌入 API，Google Cloud 声称该 API 可以加速基于 ML 的大规模排名和推荐工作负载

Google Cloud 表示，将加速嵌入 Cloud TPU 可以帮助企业降低与排名和推荐用例相关的成本，这些用例通常依赖于基于深度神经网络的算法，而这些算法的运行成本可能很高。

“它们往往使用大量数据，使用传统的 ML 基础设施进行训练和部署可能既困难又昂贵，”谷歌云在一篇博文中说。

“使用 Cloud TPU 嵌入加速可以以更低的成本解决这个问题。嵌入 API 可以通过自动分片 Pod 中的数百个 Cloud TPU 芯片来有效地处理大量数据，例如嵌入表，所有这些芯片都通过定制的互连相互连接。

同时，TPU VM 旨在支持三个主要框架（TensorFlow、PyTorch 和 JAX ），这些框架通过三个环境提供，以便于使用相应的框架进行设置。

Google Cloud 补充说，TPU 虚拟机支持直接在 TPU 主机上执行输入数据管道。通过此功能，用户可以构建自己的客户运算，例如 TensorFlow Text，这样他们就不再受 TensorFlow 运行时发行版的束缚。

使用加速器在主机上本地执行还支持分布式强化学习等使用案例。

“使用 Cloud TPU 虚拟机，您可以在连接物理 TPU 硬件的同一主机上以交互方式工作，”谷歌云说。

“我们快速增长的 TPU 用户社区热情地采用了这种访问机制，因为它不仅可以获得更好的调试体验，还可以实现某些训练设置，例如分布式强化学习，这在 TPU Node（网络访问）架构中是不可行的。”

相关文章