新的全球标准旨在围绕大型语言模型构建安全性

WDTA 框架跨越大型语言模型的生命周期，提供管理与其他系统集成的指南。

发布了一项新的全球标准，以帮助组织管理将大型语言模型 (LLM) 集成到其系统中的风险，并解决这些模型的模糊性。

世界数字技术学院（WDTA）周五发布了该文件，该框架为法学硕士生命周期的不同阶段提供了指导方针，涵盖“开发、部署和维护”。这个总部位于日内瓦的非政府组织 (NGO) 在联合国下运作，于去年成立，旨在推动数字领域标准的制定。

WDTA 表示：“该标准强调多层安全方法，包括网络、系统、平台和应用程序、模型和数据层。” “它利用了机器学习物料清单、零信任架构以及持续监控和审计等关键概念。这些概念旨在确保整个供应链中法学硕士系统的完整性、可用性、机密性、可控性和可靠性。”

WDTA 表示，新框架被称为 AI-STR-03 标准，旨在识别和评估在当前 IT 生态系统中集成人工智能 (AI) 技术（特别是法学硕士）的挑战。这是至关重要的，因为这些人工智能模型可能用于完全或部分由第三方运营但不由第三方管理的产品或服务。

与法学硕士系统结构相关的安全要求——称为供应链安全要求，包括网络层、系统层、平台和应用层、模型层和数据层的要求。这些确保产品及其系统、组件、模型、数据和工具在法学硕士产品的整个生命周期中免受篡改或未经授权的更换。

WDTA 表示，这涉及在供应链的每个阶段实施控制和持续监控。它还解决了中间件安全中的常见漏洞，以防止未经授权的访问，并防范工程师使用的培训数据中毒的风险。它进一步实施零信任架构以减轻内部威胁。

WDTA 表示：“通过保持从数据采集到供应商部署的每个阶段的完整性，使用 LLM 的消费者可以确保 LLM 产品保持安全和值得信赖。”

LLM 供应链安全要求还满足可用性、机密性、控制、可靠性和可见性的需求。这些共同努力确保沿供应链传输的数据不会泄露给未经授权的个人，最终建立透明度，以便消费者了解他们的数据是如何管理的。

它还提供了供应链的可见性，例如，如果使用新的训练数据更新模型，则人工智能模型的状态（添加训练数据之前和之后）都会得到正确记录和追踪。

解决法学硕士的模糊性

新框架由微软、谷歌、Meta、云安全联盟大中华区、新加坡南洋理工大学、腾讯云和百度等多家科技公司和机构组成的工作组起草和审核。据WDTA称，这是第一个关注LLM供应链安全的国际标准。

WDTA 补充说，随着人工智能不断发展并影响全球各个行业，人工智能相关标准的国际合作变得越来越重要。

该非政府组织表示：“实现值得信赖的人工智能是一项全球性的努力，需要创建超越国界的有效治理工具和流程。” “全球标准化在这方面发挥着至关重要的作用，为促进人工智能治理制度最佳实践和互操作性的一致性提供了关键途径。”

微软技术策略师Lars Ruddigkeit表示，新框架的目的并不在于完美，而是为国际标准提供基础。

“我们希望确定必须达到的最低限度，”鲁迪格凯特说。 “目前，法学硕士和其他新兴技术存在很多模糊性和不确定性，这使得机构、公司和政府很难决定什么是有意义的标准。WDTA 供应链标准试图使第一条道路通向安全未来步入正轨。”