联合国安理会代表敦促人工智能控制以化解潜在的全球威胁

联合国支持建立一个独立的联合国实体来促进管理人工智能的集体努力的呼吁。

全球需要共同努力来管理人工智能 (AI)，迫切需要就所需的护栏达成共识。

联合国秘书长安东尼奥·古特雷斯表示，在呼吁采取不同的全球措施和倡议的背景下，人工智能治理将变得复杂，需要采取普遍的方法。古特雷斯在联合国安理会的讲话中表示，人工智能模型已经广泛向公众开放，与核材料和生物制剂不同，其工具可以在不留痕迹的情况下移动。

该委员会的成员本周聚集在一起，召开了关于人工智能的首次正式会议，发言者包括 Anthropic 的联合创始人 Jack Clark 和中国科学院自动化研究所教授兼国际人工智能研究中心主任曾毅。人工智能道德与治理。

古特雷斯将生成式人工智能描述为功能上的“彻底进步”，他表示该技术获得的速度和影响力是“前所未有的”，ChatGPT 在短短两个月内就拥有了 1 亿用户。

但他表示，尽管人工智能有潜力显着推动全球发展并实现人权，包括在医疗保健领域，但它也可能会加剧偏见和歧视。该技术可以进一步实现专制监视。

他敦促安理会评估人工智能对和平与安全的影响，并强调已经存在人道主义、道德、法律和政治方面的担忧。

古特雷斯说：“[人工智能]越来越多地被用于识别暴力模式、监测停火等，有助于加强我们的维和、调解和人道主义努力。” “但是人工智能工具也可能被那些怀有恶意的人使用。人工智能模型可以帮助人们大规模地伤害自己和彼此。”

事实上，人工智能已经被用来发起针对关键基础设施的网络攻击。他指出，军事和非军事人工智能应用可能会给全球和平与安全带来严重后果。

克拉克支持全球各国政府需要团结起来，建设能力，并使人工智能系统的开发成为一项“共同努力”，而不是由少数参与者领导争夺市场份额。

“我们不能将人工智能的发展完全交给私营部门参与者，”他说，并指出人工智能模型的开发，例如 Anthropic 自己的 Claude、OpenAI 的 ChatGPT 和 Google Bard，都是以企业利益为导向的。他补充说，随着私营公司能够获得复杂的系统、大量数据和资金，他们可能会继续定义人工智能系统的发展。

由于人工智能可能被滥用及其不可预测性，这可能会带来好处和威胁。他解释说，该技术可用于更好地了解生物学以及制造生物武器。

当人工智能系统被开发和实施时，它们的新用途可能会被发现，这是开发人员没有预料到的。他说，系统本身也可能表现出不可预测或混乱的行为。

克拉克说：“因此，我们应该非常仔细地考虑如何确保这些系统的开发人员负起责任，以便他们构建和部署安全可靠的系统，不会损害全球安全。”

古特雷斯表示，生成式人工智能的出现可能会进一步散布虚假信息并破坏事实，带来操纵人类行为的新方法，并导致大规模的不稳定。他援引深度伪造品表示，如果不加以控制，此类人工智能工具可能会造成严重的安全风险。

他补充说，人工智能系统故障也是一个重大问题，人工智能与核武器、生物技术、神经技术和机器人之间的相互作用“令人深感震惊”。

“生成式人工智能在规模上具有巨大的善恶潜力。它的创造者自己也警告说，未来存在着更大的、潜在的灾难性和生存风险，”他说。 “如果不采取行动应对这些风险，我们就忽视了对当代和子孙后代的责任。”

需要新的联合国实体来管理人工智能

古特雷斯表示，他支持建立一个联合国实体的呼吁，以促进管理人工智能的集体努力，类似于国际原子能机构和政府间气候变化专门委员会。

“最好的方法是解决现有的挑战，同时建立监控和应对未来风险的能力，”他说。 “它应该灵活、适应性强，并考虑技术、社会和法律问题。它应该整合私营部门、民间社会、独立科学家以及所有推动人工智能创新的人。”

“对全球标准和方法的需求使联合国成为实现这一目标的理想场所，”他补充道。

新的联合国机构应致力于支持各国最大限度地发挥人工智能的好处、降低风险并建立国际监测和治理机制。新实体还必须收集必要的专业知识，向国际社会提供，并支持推动可持续发展的人工智能工具的研发工作。

古特雷斯表示，他正在组建一个“人工智能高级顾问委员会”来启动这项工作，目标是在年底前为全球人工智能治理提出建议。

他补充说，即将发布的关于“和平新议程”的政策简报还将包含有关联合国成员国人工智能治理的建议。其中包括关于负责任地开发和使用人工智能的国家战略的建议，以及多边参与制定围绕人工智能军事应用的规范和原则。

还将要求成员国同意一个全球框架，以规范和加强对数据驱动技术（包括人工智能）用于反恐目的的监督机制。

他表示，政策简报的谈判目标是在 2026 年之前完成，届时将达成一项具有法律约束力的协议，禁止在无人监督的情况下运行的致命自主武器。

克拉克还呼吁国际社会制定方法来测试系统的功能、误用和潜在的安全缺陷。他表示，包括中国、欧盟和美国在内的一些国家在其人工智能政策提案中重点关注安全评估，这一点令人放心。

他进一步强调需要制定标准和最佳实践来测试此类系统是否存在歧视和滥用等关键领域，而目前尚缺乏这些标准和最佳实践。

曾指出，当前的人工智能系统，包括生成式人工智能，都是看似智能但没有真正理解能力的信息处理工具。

“这就是为什么他们不能被信任为可以帮助人类做出决定的负责任的代理人，”他指出。例如，外交任务不应该自动化。特别是，人工智能不应该应用于不同国家之间的对外谈判，因为它可能会放大人类的局限性和弱点，从而产生更大的风险。

“人工智能永远不应该假装人类，”他说，同时敦促人类需要对人工智能武器系统进行充分和负责任的控制。 “人类应该始终维护并负责核武器使用的最终决策。”

阿拉伯联合酋长国负责先进科学技术的助理部长奥姆兰·沙拉夫表示，全球利益相关者现在有机会联合起来讨论人工智能所需的护栏。

在“为时已晚”之前，他敦促成员国就所需规则达成共识，包括防止人工智能工具传播可能助长极端主义和冲突的错误信息和虚假信息的机制。

沙拉夫说，与其他数字技术类似，人工智能的采用应受到必须适用于网络领域的国际法的指导。不过他指出，监管应该灵活、灵活，这样才不会阻碍人工智能技术的进步。