谷歌的量子突破“确实令人瞩目”——但还有更多工作要做

人工智能计算将随着推理继续飙升，需要全新的数千兆瓦人工智能数据中心。

芯片初创公司 Lightmatter 联合创始人 Thomas Graham（右）告诉 Bloomberg Intelligence 的 Mandeep Singh，到 2026 年，将建设相当于纽约市电力消耗八倍的数据中心，以服务人工智能的部署。

Nvidia 及其合作伙伴和客户在世界各地稳步建造越来越大的计算机设施，以满足训练 GPT-4 等巨型人工智能 (AI) 程序的计算密集型需求。一家为科技巨头服务的初创公司表示，随着更多人工智能模型投入生产，这一努力将变得越来越重要。

光学计算初创公司 Lightmatter 的联合创始人托马斯·格雷厄姆 (Thomas Graham) 上周在纽约接受曼迪普·辛格 (Mandeep Singh) 采访时表示：“人们会想要更多的计算，不一定是因为缩放定律，而是因为你现在正在部署这些东西。”彭博资讯 (Bloomberg Intelligence) 的高级技术分析师。

Singh 问 Graham，诸如 GPT-4 之类的大型语言模型 (LLM) 是否会继续“扩展”，这意味着随着 OpenAI 和其他人试图实现更雄心勃勃的模型而规模不断扩大。

格雷厄姆扭转了这个问题，暗示人工智能计算需求的下一阶段是将经过训练的神经网络投入生产。

“如果你将训练视为研发，那么推理实际上就是部署，当你部署它时，你将需要大型计算机来运行你的模型，”格雷厄姆说。此次讨论是彭博资讯主办的为期一天的会议的一部分，该会议名为“Gen AI：它能否兑现生产力承诺？”

格雷厄姆的观点与英伟达首席执行官黄仁勋的观点相呼应，黄仁勋近几个月向华尔街表示，“扩大”人工智能的“代理”形式将需要“更复杂的[人工智能模型]训练，也需要越来越复杂的推理， ”因此，“推理计算规模呈指数级增长。”

“如果你将训练视为研发，那么推理实际上就是部署，当你部署它时，你将需要大型计算机来运行你的模型，”格雷厄姆说。

Lightmatter 成立于 2018 年，正在开发一种芯片技术，可以使用光学连接将多个处理器连接到单个半导体芯片上，从而取代构建 AI 数据中心所需的数十、数百甚至数千个芯片之间的传统网络链路。光互连，正如它们所称的，可以比铜线更快地传输数据，而消耗的能量只是铜线的一小部分。

Graham告诉Singh，该技术可以在数据中心机架内的计算机之间以及机架之间使用，以简化计算机网络，使整个数据中心更加经济。

“因此，真正消除数据中心中的铜线，无论是打印机电路板上的服务器还是机架之间的布线，或者全部用光纤、全部用光纤替换，这确实会显着增加您的带宽。得到，”格雷厄姆说。

格雷厄姆表示，Lightmatter 正在与众多科技公司合作制定新数据中心的计划。 “数据中心正在从头开始建设，”他说。 Lightmatter 已经宣布与合同半导体制造商 Global Foundries 建立合作伙伴关系，后者在纽约州北部设有工厂，为包括 Advanced Micro Devices 在内的众多芯片制造商提供服务。

除了合作之外，格雷厄姆拒绝透露合作伙伴和客户的名称。他的演讲的含义是，他的公司与 Broadcom 或 Marvell 等芯片供应商合作，为谷歌、亚马逊和微软等为其数据中心设计自己的处理器的科技巨头生产定制集成部件。

为了了解部署的规模，格雷厄姆指出，目前至少有十几个新的人工智能数据中心正在规划或建设中，需要千兆瓦的电力才能运行。

“仅供参考，纽约市平均每天消耗 5 吉瓦的电力。因此，有多个纽约市。”他表示，到 2026 年，预计全球人工智能处理将需要 40 吉瓦的电力，“专门用于人工智能数据中心，即纽约市的八个”。

Lightmatter最近获得了4亿美元的风险投资，公司估值为44亿美元。格雷厄姆表示，Lightmatter 打算“在未来几年内”投入生产。

当辛格问他什么会颠覆公司的计划时，格雷厄姆表示对扩展人工智能计算基础设施的持续需求充满信心。

“如果在接下来的几年里，研究人员想出一种新的人工智能算法，它需要的计算量更少，性能比我们今天的算法要高得多，可以更快地实现 AGI（通用人工智能），那就会抛出一只猴子。打破了每个人想要继续投资指数计算的假设，”他说。