全球参与者希望创建基线来评估生成式人工智能应用程序

这项由新加坡牵头的倡议旨在提供一套标准基准来评估生成式人工智能产品，汇集来自 Anthropic、谷歌和微软等大型市场参与者的资源。

目前正在努力提供一套通用基准来评估生成人工智能（AI）产品，并创建关于如何测试这些工具的“知识体系”。

其目的是提供一种标准方法来评估生成式人工智能应用程序，并激励人们努力应对风险。这种通用方法是对现有“零碎”努力的转变。

该计划被称为 Sandbox，由新加坡信息通信媒体发展局 (IMDA) 和 AI verify Foundation 牵头，并获得了 Amazon Web Services (AWS)、Anthropic、Google 和 Microsoft 等全球市场参与者的支持。这些组织是目前由 15 个参与者组成的组织的一部分，该组织还包括德勤、安永和 IBM，以及新加坡华侨银行和新加坡电信公司。

Sandbox 以新的目录草案为指导，该目录对用于评估大型语言模型 (LLM) 的当前基准和方法进行了分类。 IMDA 表示，该目录汇编了常用的技术测试工具，根据测试内容和方法进行组织，并推荐了一套基准测试来评估生成式人工智能产品。

其目标是建立一种共同语言并支持“更广泛、安全和值得信赖地采用生成式人工智能”。

IMDA 表示：“对模型进行系统且稳健的评估是 LLM 治理的关键组成部分，有助于形成使用这些技术的信任基石。”

“通过严格的评估，可以揭示模型的功能，这可以帮助确定其预期用途和潜在限制。评估[还]为开发人员进行改进提供了重要的路线图。”

它指出，实现这种共同语言需要法学硕士的标准化分类和部署前安全评估基线集。新加坡政府机构希望该目录草案为全球讨论提供一个起点，旨在推动就法学硕士安全标准达成共识。

走向通用标准还意味着生态系统中除模型开发人员之外的其他利益相关者的参与，例如基于模型构建的应用程序开发人员和第三方测试工具的开发人员。

IMDA 希望通过 Sandbox 提供包括生成式 AI 模型开发人员、应用程序部署人员和第三方测试人员的用例，以演示不同参与者如何协同工作。例如，模型开发人员（例如 Anthropic 或 Google）可以与应用程序开发人员 OCBC 或 Singtel 以及第三方测试人员（例如 Deloitte 和 EY）合作，共同开发金融服务或电信领域的生成式 AI 使用案例。

IMDA 表示，新加坡个人数据保护委员会等监管机构也应该参与其中，因此 Sandbox 可以提供一个实验和开发环境，让生态系统中的所有各方都可以“透明”地表达自己的需求。

IMDA 预计 Sandbox 能够揭示生成式 AI 评估当前状态的差距，包括目前尚未开发的特定领域应用，例如人力资源和特定文化领域。

IMDA 表示：“由于文化和语言的特殊性，Sandbox 将制定评估特定领域模型性能的基准，这些领域对于用例很重要，对于新加坡等国家也很重要。”

该新加坡机构表示，它正在与 Anthropic 合作开展一个沙箱项目，该项目使用该目录来识别红队的各个方面，该项目旨在通过采取对抗性方法来挑战人工智能系统中使用的政策和假设。

IMDA 将利用 Anthropic 的模型和研究工具平台来开发针对新加坡多元化语言和文化景观定制的红队方法。例如，将评估人工智能模型在该国多语言背景下的执行能力。

今年 7 月，新加坡政府推出了两个在 Google Cloud 生成式 AI 工具集上运行的沙箱，其中之一专门由政府机构用于开发和测试生成式 AI 应用程序。另一个沙箱可供当地组织免费使用三个月，最多可使用 100 个用例。