AI 的计算能力正在耗尽。IBM 表示,答案就是这款新芯片
IBM 研究院推出了新的 Artificial Intelligence Unit,旨在为几乎任何企业应用程序运行深度学习模型。
IBM Artificial Intelligence Unit 芯片的特写。
炒作表明人工智能 (AI) 已经无处不在,但实际上驱动它的技术仍在发展中。许多 AI 应用程序由并非为 AI 设计的芯片提供支持,相反,它们依赖于为视频游戏创建的通用 CPU 和 GPU。这种不匹配导致 IBM、Intel 和 Google 等科技巨头以及初创公司和风险投资公司对专门为 AI 工作负载设计的新芯片进行了大量投资。
随着技术的进步,企业投资肯定会随之而来。根据 Gartner 的数据,2021 年 AI 芯片收入总额超过 340 亿美元,预计到 2026 年将增长到 860 亿美元。此外,该研究公司表示,2020 年只有不到 3% 的数据中心服务器包含工作负载加速器,而预计到 2026 年将超过 15%。
就 IBM 研究院而言,它刚刚推出了人工智能单元 (AIU),这是一款专门用于 AI 的原型芯片。
“我们的计算能力快用完了。AI 模型呈指数级增长,但训练这些庞然大物并在云中的服务器或智能手机和传感器等边缘设备上运行它们的硬件并没有那么快,“IBM 表示。
AIU 是 IBM 研究院 AI 硬件中心推出的首款完整的片上系统 (SoC),专为运行企业 AI 深度学习模型而设计。
IBM 认为,“传统计算的主力”,也称为 CPU,是在深度学习出现之前设计的。虽然 CPU 适用于通用应用程序,但它们不太擅长训练和运行需要大规模并行 AI作的深度学习模型。
“毫无疑问,人工智能将在很长很长一段时间内成为 IT 解决方案的基本驱动力,”IBM 研究院 AI 计算总监 Jeff Burns 告诉 ZDNET。“它将以非常广泛和分散的方式注入整个计算环境、这些复杂的企业 IT 基础设施和解决方案。”
Burns 说,对于 IBM 来说,构建有效通用的完整解决方案是最有意义的,“这样我们就可以将这些功能集成到不同的计算平台中,并支持非常非常广泛的企业 AI 需求。
AIU 是一种专用集成电路 (ASIC),但可以对其进行编程以运行任何类型的深度学习任务。该芯片具有 32 个采用 5 nm 技术构建的处理内核,包含 230 亿个晶体管。该布局比 CPU 的布局更简单,旨在将数据直接从一个计算引擎发送到下一个计算引擎,从而提高能效。它的设计与显卡一样易于使用,可以插入任何带有 PCIe 插槽的计算机或服务器。
为了节省能源和资源,AIU 利用 近似计算,这是 IBM 开发的一种技术,旨在牺牲计算精度以换取效率。传统上,计算依赖于 64 位和 32 位浮点运算来提供精度级别,这对于金融、科学计算和其他注重细节精度的应用程序非常有用。但是,对于绝大多数 AI 应用程序来说,这种精度水平并不是真正必要的。
“如果你考虑绘制自动驾驶汽车的轨迹,那么汽车需要在车道上的确切位置,”Burns 解释说。“车道上有很多地方。”
神经网络从根本上说是不精确的 - 它们产生具有概率的输出。例如,计算机视觉程序可能会以 98% 的把握告诉您您正在查看猫的照片。即便如此,神经网络最初仍然使用高精度算术进行训练,消耗大量精力和时间。
AIU 的近似计算技术使其能够从 32 位浮点运算下降到包含四分之一信息的位格式。
为了确保芯片真正具有通用性,IBM 关注的不仅仅是硬件创新。IBM 研究院非常重视基础模型,有一个 400 到 500 人的团队致力于开发这些模型。与为特定任务构建的 AI 模型相比,基础模型是在大量未标记的数据上进行训练的,从而创建类似于巨大数据库的资源。然后,当您需要用于特定任务的模型时,您可以使用相对少量的标记数据重新训练基础模型。
使用这种方法,IBM 打算处理不同的垂直领域和不同的 AI 用例。该公司正在为几个领域构建基础模型,这些使用案例涵盖化学和时间序列数据等领域。时间序列数据(仅指在固定时间间隔内收集的数据)对于需要观察其设备运行方式的工业公司来说至关重要。在为少数关键领域构建基础模型后,IBM 可以开发更具体的垂直驱动产品。该团队还确保 AIU 的软件与 IBM 拥有的 Red Hat 的软件堆栈完全兼容。
