人工智能领导人签署声明公开承认人工智能的危险

行业领袖和研究人员表示，人工智能有能力导致人类灭绝。

萨姆·奥尔特曼就人工智能作证。

今年三月，一封由科技行业专家带头的公开信试图停止先进人工智能模型的开发，因为担心该技术可能对“社会和人类造成深远的风险”。

本周，OpenAI 首席执行官、人工智能“教父”杰弗里·辛顿 (Geoffrey Hinton) 等人联合签署了一份声明，旨在降低人工智能导致人类灭绝的风险。该声明的前言鼓励行业领导者公开讨论人工智能最严重的威胁。

声明称，人工智能对人类造成的风险非常严重，堪比全球流行病和核战争。其他联合签名者包括谷歌 DeepMind 的研究人员、微软首席技术官凯文·斯科特 (Kevin Scott) 和互联网安全先驱布鲁斯·施奈尔 (Bruce Schneier)。

今天由 Altman 的 ChatGPT 普及的大型语言模型（LLM）还无法实现通用人工智能（AGI）。然而，行业领导者担心法学硕士会发展到这一点。 AGI是一个定义可以等同于或超越人类智能的人工智能的概念。

AGI 是 OpenAI、Google DeepMind 和 Anthropic 希望有一天能够实现的一项成就。但每家公司都认识到，如果他们的技术实现通用人工智能，可能会产生重大后果。

奥尔特曼本月早些时候在国会作证时表示，他最担心的是人工智能“对世界造成重大伤害”，而且这种伤害可能以多种方式发生。

就在几周前，Hinton 突然辞去了在谷歌从事神经网络工作的职位，他告诉 CNN，他“只是一名突然意识到这些东西变得比我们更聪明的科学家”。