中国和美国签署多边协议以应对人工智能风险

英国发布的《布莱奇利宣言》汇集了 28 个国家，达成一项协议，共同识别和管理“前沿”人工智能的潜在风险。

包括中国和美国在内的 28 个国家同意共同努力识别和管理“前沿”人工智能 (AI) 的潜在风险，这是第一个此类多边协议。

英国发布的《人工智能安全布莱切利宣言》概述了各国对“迫切需要”的认识，以确保以“安全、负责任的方式”开发和部署人工智能，以造福全球社会。根据该宣言，这项努力需要更广泛的国际合作，该宣言已得到亚洲、欧盟和中东国家的认可，包括新加坡、日本、印度、法国、澳大利亚、德国、韩国、阿拉伯联合酋长国和尼日利亚。

各国认识到，故意滥用或无意的前沿人工智能控制问题可能会产生重大风险，特别是来自网络安全、生物技术和虚假信息的风险。该宣言指出了人工智能模型潜在的严重和灾难性危害，以及与偏见和隐私相关的风险。

各国认识到风险和能力仍未被完全理解，因此同意合作并建立对前沿人工智能风险的共同“科学和基于证据的理解”。

该宣言将前沿人工智能描述为包含“高性能通用人工智能模型”的系统，包括可以执行广泛任务的基础模型，以及特定的狭义人工智能。

宣言指出：“我们决心以包容的方式共同努力，确保以人为本、值得信赖和负责任的人工智能是安全的，并通过现有的国际论坛和其他相关举措支持所有人的利益。”

“在此过程中，我们认识到各国应考虑支持创新和相称的治理和监管方法的重要性，以实现利益最大化，并考虑到与人工智能相关的风险。”

这种方法可以包括根据一个国家的当地情况和适用的法律框架建立风险的分类和分类。可能还需要在新方法上进行合作，例如共同原则和行为准则。

该小组的工作重点是在各国制定基于风险的政策，在适当的情况下进行合作，并认识到国家层面的方法可能有所不同。除了开发前沿人工智能能力的私人参与者需要提高透明度之外，这些新的努力还包括开发用于安全测试的相关评估指标和工具，以及公共部门的能力和科学研究。

英国首相里希·苏纳克 (Rishi Sunak) 表示：“这是一项里程碑式的成就，世界上最强大的人工智能强国都认识到了解人工智能风险的紧迫性。”

英国技术大臣米歇尔·多尼兰补充道：“我们一直说，没有任何一个国家能够单独应对人工智能带来的挑战和风险，今天具有里程碑意义的宣言标志着全球新努力的开始，通过确保技术的安全发展来建立公众信任。” ”。

本周还宣布了一个由新加坡主导的名为 Sandbox 的项目，旨在提供一套标准的基准来评估生成式人工智能产品。该计划汇集了包括 Anthropic 和 Google 在内的全球主要参与者的资源，并以目录草案为指导，该目录对当前用于评估大型语言模型的基准和方法进行了分类。

该目录编译了常用的技术测试工具，根据测试内容和方法进行组织，并推荐了一组基准测试来评估生成式人工智能产品。目标是建立一种共同语言并支持“更广泛、安全和值得信赖地采用生成式人工智能”。

联合国（UN）上个月成立了一个咨询小组，研究如何管理人工智能以减轻潜在风险，并承诺采取“全球包容性”的方法。该机构目前由 39 名成员组成，包括来自政府机构、私人组织和学术界的代表，例如新加坡政府首席人工智能官、西班牙负责数字化和人工智能的国务秘书以及 OpenAI 的首席技术官。