AWS 推出新的 Trainium AI 芯片和 Graviton 4，扩大与 Nvidia 的合作伙伴关系

第二代 Trainium 芯片适用于参数超过一万亿的神经网络模型。

Graviton 4 芯片（左）是 SAP 和其他公司用于处理大型工作负载的通用微处理器芯片，而 Trainium 2 是用于生成 AI 等超大型神经网络程序的专用加速器芯片。

在拉斯维加斯举行的年度 AWS re:Invent 开发者大会上，亚马逊周二宣布了新版本的 Trainium 2，这是其用于训练神经网络的专用芯片。 Trainium 2 专门针对训练所谓的大语言模型 (LLM) 和基础模型（诸如 OpenAI 的 GPT-4 等生成式 AI 程序）进行了调整。

该公司还推出了新版本的定制微处理器 Graviton 4，并表示正在扩大与 Nvidia 的合作关系，以便在其云计算服务中运行 Nvidia 最先进的芯片。

Trainium 2 旨在处理具有数万亿个参数或神经权重的神经网络，一般来说，这些参数或神经权重是程序算法的函数，赋予程序规模和能力。扩展到越来越大的参数是整个人工智能行业的焦点。

万亿参数计数已成为业界的痴迷，因为人们相信人脑包含 100 万亿个神经元连接，这使得万亿参数神经网络程序看起来与人脑相关，无论它是否在事实是。

亚马逊表示，这些芯片“旨在提供比前代产品快四倍的训练性能和三倍多的内存容量”，“同时将能源效率（性能/瓦特）提高两倍”。

亚马逊正在其 EC2 云计算服务实例（称为“Trn2”实例）中提供这些芯片。亚马逊表示，该实例提供 16 个协同运行的 Trainium 2 芯片，可以扩展到 100,000 个实例。这些较大的实例使用该公司的网络系统（称为 Elastic Fabric Adapter）进行互连，该系统总共可以提供 65 exaFLOP 的计算能力。 （1 exaFLOP 是每秒十亿亿次浮点运算。）

亚马逊表示，在这种计算规模下，“客户可以在数周而不是数月内训练出 3000 亿个参数的 LLM。”

除了为客户提供服务外，亚马逊还有额外的激励措施来继续挑战人工智能芯片的极限。该公司已向私人控股的生成式 AI 初创公司 Anthropic 投资 40 亿美元，该公司是从 OpenAI 中分离出来的。这项投资使该公司能够与微软与 OpenAI 的独家协议竞争。

Graviton 4芯片基于ARM Holdings的微处理器知识产权构建，与英特尔和Advanced Micro Devices基于较旧x86芯片标准的处理器竞争。亚马逊表示，Graviton 4 的“计算性能提高了 30%”。

与人工智能的 Trainium 芯片不同，Graviton 处理器旨在运行更传统的工作负载。亚马逊 AWS 表示，包括 Datadog、DirecTV、Discovery、Formula 1、Nielsen、Pinterest、SAP、Snowflake、Sprinklr、Stripe 和 Zendesk 在内的客户使用 Graviton 芯片“运行各种工作负载，例如数据库、分析” 、网络服务器、批处理、广告服务、应用程序服务器和微服务。”

SAP 在准备好的发言中表示，在 Graviton 芯片上运行 HANA 内存数据库，它已经能够实现“分析工作负载的性价比提高 35%”，并且“我们期待评估 Graviton4 及其可以带来的好处”给我们共同的客户。”

新芯片是在 2021 年推出 Graviton 3 和最初的 Trainium 两年后推出的。

亚马逊发布这一消息之前，微软上周推出了首款人工智能芯片。 Alphabet 旗下的谷歌是与亚马逊和微软并列的另一家云巨头，在 2016 年率先推出了首款人工智能云芯片、TPU 或张量处理单元，此后该公司已提供多代此类芯片。

除了这两款新芯片外，亚马逊还表示扩大了与人工智能芯片巨头英伟达的战略合作伙伴关系。 AWS 将成为第一个运行 Nvidia 即将推出的 GH200 Grace Hopper 多芯片产品的云服务，该产品结合了基于 Grace ARM 的 CPU 和 Hopper H100 GPU 芯片。

GH200 芯片预计将于明年开始发货，它是今年早些时候发布的 Grace Hopper 组合芯片的下一个版本，该芯片的初始版本已经在戴尔和其他公司的计算机中发货。

GH200 芯片将通过 Nvidia 的专用人工智能计算机 DGX 托管在 AWS 上，两家公司表示，这将加速具有超过一万亿个参数的神经网络的训练。

Nvidia 表示，它将让 AWS 成为“机器学习研发的主要云提供商”。