网站搜索

2025 年最佳戴尔笔记本电脑:专家测试和审查


Nvidia 的 GTC 主题演讲还包括对用于医疗保健、机器人、工业自动化和汽车应用的新计算机平台以及多种托管服务的讨论。

Nvidia 的联合创始人兼首席执行官 Jensen Huang 宣布,该公司的新型“Hopper”GPU 将于下个月在戴尔和其他公司的系统中正式推出,从而在公司秋季 GTC 大会上正式推出。主题演讲还介绍了用于医疗保健、机器人、工业自动化和汽车用途的计算机,以及多项云服务,包括 Nvidia 托管的用于深度学习语言模型(如 GPT-3)的云服务。

英伟达首席执行官黄仁勋周二在公司秋季 GTC 大会上宣布,该公司的“Hopper”图形处理单元 (GPU) 已开始批量生产,并将于下个月开始由戴尔、惠普和思科系统等合作伙伴在系统中发货。黄仁勋宣布,搭载 GPU 的 Nvidia 系统将于明年第一季度上市。

Hopper 芯片,也称为“H100”,针对数据中心的任务,例如人工智能。英伟达表示,H100 可以“显着”降低部署 AI 程序的成本。例如,320 个之前的顶级 GPU A100 只需 64 个 H100 芯片即可完成工作,这只需要服务器计算机的五分之一,并将能源使用减少 3.5 倍。

Hopper 于 3 月由 Nvidia 首次推出。该公司本月在 MLPerf 机器学习任务套件中展示了该芯片的一些基准测试分数。

除了 Hopper 的可用性外,黄仁勋还讨论了一种新的“即服务”云产品 Nvidia NeMo LLM,用于“大型语言模型”,使客户能够轻松部署非常大的自然语言处理模型,例如 OpenAI 的 GPT-3 和 Nvidia 与 Microsoft 共同开发的语言模型 Megatron-Turing NLG 530B。

NeMo 服务从下个月开始以“抢先体验”的方式提供,以预先训练的方式提供 GPT-3 和其他模型,并且可以由开发人员使用 Nvidia 称为“提示学习”的方法进行调整,Nvidia 根据 Google 的科学家去年推出的技术进行了改编。

将专门托管一个 NeMo 版本,用于大型语言模型(如药物发现)的生物医学应用,称为 NVIDIA BioNeMo 服务。

英伟达表示,与前身数据中心 GPU A100 相比,Hopper GPU 可以将运行大型 AI 任务所需的计算机节点减少五分之四。

在公告的新闻发布会上,ZDNet 询问 Nvidia 的加速计算主管 Ian Buck,该公司将制定哪些护栏来防止滥用大型语言模型,这些模型已在 AI 伦理文献中得到充分记录。

“是的,好问题,这项服务从下个月开始进入 EA [抢先体验],它直接面向企业,我们这样做实际上是为了与不同的企业、不同的公司合作,以开发他们的工作流程,”巴克说。 

巴克补充道,

显然,他们将与 Nvidia 合作做任何事情,每个用户都将申请访问该服务,因此,我们将更多地了解他们正在做什么,而不是以这种方式提供通用的开放产品。同样,我们正在努力专注于将大型语言模型引入企业,这就是我们的客户进入市场。

ZDNet 随后向 Buck 指出,大型语言模型的文献中的滥用行为包括嵌入在训练数据中的偏见,而不一定是恶意使用。 

ZDNet 问道:“你是否认为,如果对企业合作伙伴的访问受到限制,就不会有那种记录在案的滥用行为,比如培训材料和输出产品中的偏见?

巴克回答说,

是的。我的意思是,客户会将他们自己的数据集引入域训练,因此,他们当然必须承担一些责任,而我们作为一个社区,都需要承担责任。这些东西是在互联网上训练的。需要理解它,并确定它现在对于特定于域的解决方案的范围。这个问题受到更多限制,因为我们试图为特定用例提供单一服务。这种偏见将存在。人类有偏见,不幸的是,这当然是按照人类的输入进行训练的。

该演示还包括一系列适用于包括医疗保健在内的众多行业的专用计算机平台,以及 Nvidia 的元宇宙软件平台 OmniVerse。

这些平台包括用于医疗保健应用的 IGX、用于工厂的 IGX、专用于 OmniVerse 开发的新版本 OVX 计算系统,以及新版本的 Nvidia 汽车 DRIVE 计算平台,称为 DRIVE Thor,它将 Hopper GPU 与 Nvidia 即将推出的 CPU“Grace”相结合。 

相关文章