联合国成立咨询小组协调“包容性”人工智能治理

由于人们越来越关注企业如何使用个人数据来推动人工智能的采用，联合国成立了一个咨询机构来评估应如何管理该技术。

联合国（UN）成立了一个咨询小组，研究如何管理人工智能（AI）以减轻潜在风险，并承诺采取“全球包容性”的方法。此举出台之际，新的研究表明，消费者既不信任企业负责任地采用生成式人工智能，也不遵守管理其使用的法规。

联合国秘书长安东尼奥·古特雷斯表示，新的人工智能咨询机构是多学科的，将解决有关人工智能国际治理的问题。

该机构目前由 39 名成员组成，包括来自政府机构、私人组织和学术界的代表，例如新加坡政府首席人工智能官、西班牙负责数字化和人工智能的国务秘书、索尼集团的 CTO、OpenAI 的 CTO、斯坦福大学的国际政策总监等。其网络政策中心、中国政法大学数据法研究所教授。

古特雷斯指出，随着过去一年中聊天机器人、语音克隆和图像生成器等应用的出现，人工智能已经证明了其带来巨大可能性的能力，但也带来了潜在的危险。

“从预测和解决危机，到推出公共卫生计划和教育服务，人工智能可以全面扩大和扩大政府、民间社会和联合国的工作。对于发展中经济体来说，人工智能提供了超越过时技术的可能性并将服务直接提供给最需要的人，”他说。

他补充说，人工智能还可以帮助推动气候行动以及到 2030 年实现该国际组织 17 项可持续发展目标的努力。

“但是，这一切都取决于人工智能技术得到负责任的利用，并让所有人都能使用，包括最需要它们的发展中国家，”他说。 “就目前情况而言，人工智能专业知识集中在少数公司和国家。这可能会加深全球不平等，并将数字鸿沟变成鸿沟。”

古特雷斯在谈到对错误信息和虚假信息的担忧时表示，人工智能可能会进一步加剧偏见和歧视、监视和隐私侵犯、欺诈和其他侵犯人权的行为。

因此，新的联合国咨询团队有必要推动有关人工智能治理以及如何遏制相关风险的讨论。他表示，该组织还将评估如何整合已经在进行的各种人工智能治理举措，并补充说，该咨询机构将以《联合国宪章》中概述的价值观和包容性努力为指导。

他指出，到年底，三个领域的初步建议将准备就绪，即人工智能的国际治理、对风险和挑战的共同理解以及利用人工智能加速实现可持续发展目标的推动因素。

消费者对商业人工智能的采用缺乏信任

然而，对于人工智能使用的规则是否会得到遵守存在疑问，即使这些规则被认为是必要的。

根据科技咨询公司 Thoughtworks 的调查结果，约 56% 的消费者不信任企业遵守生成式人工智能法规。该研究对澳大利亚、新加坡、印度、英国、美国和德国等 10 个市场的 10,000 名受访者进行了调查。每个市场都有 1,000 名受访者，他们都了解生成式人工智能。

即使 90% 的消费者认为政府监管对于让组织对其应用人工智能的方式负责是必要的，但消费者对商业合规性缺乏信任是显而易见的。

约 93% 的消费者担心生成式人工智能的道德使用，其中 71% 的消费者担心企业会在未经同意的情况下使用他们的数据。另外 67% 的人担心与错误信息相关的风险。

当被问及是否会从使用生成式人工智能的公司购买产品时，42% 的消费者更有可能这样做，而 18% 的消费者则不太愿意这样做。

在那些可能从生成式人工智能采用者那里购买产品的消费者中，59% 的消费者认为企业可以利用该技术来推动更大的创新，51% 的消费者希望通过这样做的公司提供更快的支持来获得更好的客户体验。

约 64% 的消费者认为，缺乏人性化是他们不太可能从使用生成式人工智能的企业购买产品的原因，而 48% 的消费者则表示担心数据隐私。

总体而言，91% 的消费者表达了对数据隐私的担忧，特别是对其信息的使用、访问和共享方式的担忧。

Thoughtworks 首席人工智能官迈克·梅森 (Mike Mason) 表示：“消费者足够精明，能够认识到滥用该技术的可能性，其中可能包括侵犯隐私、侵犯知识产权、失业或客户体验恶化。”

梅森说：“这些担忧的核心是担心企业对生成式人工智能技术的使用不透明。”

“对于一些消费者来说，政府监管被视为减轻不道德使用生成人工智能的最佳手段，但政府监管存在固有问题：我们经常看到监管机构难以跟上技术的步伐。

他敦促企业不要依赖法规，而是带头以“负责任的方式”拥抱生成式人工智能，以充分利用消费者对该技术的热情。