生成人工智能的 3 个最大风险 - 以及如何应对它们

越来越多的企业正在寻求探索生成式人工智能，但他们需要确保尽早管理风险。

有时感觉世界各地的每个人都在涉足生成人工智能（AI）。从编写代码的开发人员到创建内容的营销人员，各种角色的人们都在寻找利用新兴技术提高生产力的方法。

分析师 Gartner 认为，对人工智能的热衷利用意味着到 2026 年，超过 80% 的企业将在生产环境中使用生成式人工智能应用程序编程接口、模型和软件。

但值得记住的是，尽管生成式人工智能被大肆宣传，但许多企业并没有涉足这项技术——至少没有正式涉足。

对于大多数企业来说，生成式人工智能仍处于探索阶段，Gartner 报告称，只有不到 5% 的企业在生产中使用该技术

猎头公司 Harvey Nash 的技术和数字猎头主管 Lily Haake 在与 ZDNET 的视频聊天中表示，她与客户的合作表明，大型人工智能项目目前尚未提上日程。

“我看到了令人印象深刻的小型试点项目，例如法律客户使用人工智能生成文档来扫描案件量并提高人们的工作效率，”她说。 “这一切都非常令人兴奋和积极。但规模很小。那是因为我的客户似乎并没有大规模地探索生成式人工智能，以至于它对整个业务具有变革性。”

大多数数字化领导者并没有使用人工智能来改变组织运营和改善客户服务，而是在企业的边缘进行试验，然后再考虑如何将新的生成服务引入核心。

然而，仅仅因为企业没有强制使用生成式人工智能，并不意味着专业人士还没有使用这项技术——无论老板是否同意。

技术专家 O'Reilly 的研究表明，44% 的 IT 专业人员已经在编程工作中使用人工智能，并且 34% 的人正在尝试使用人工智能。近三分之一 (32%) 的 IT 专业人员正在使用人工智能进行数据分析，其中 38% 正在尝试。

该报告的作者迈克·卢基德斯 (Mike Loukides) 表示，奥莱利对采用率感到惊讶。

尽管卢基德斯将生成式人工智能的增长描述为“爆炸性”，但他表示，如果企业忽视匆忙采用该技术所带来的风险和危害，企业可能会陷入“人工智能冬天”。

这种观点引起了 Gartner 杰出副总裁分析师阿维瓦·利坦 (Avivah Litan) 的共鸣，他建议首席信息官及其高管同事不能袖手旁观。

“在风险管理你之前，你需要先管理风险，”她在接受 ZDNET 的一对一视频采访时说道。

Litan 表示，Gartner 最近在一次网络研讨会上对 700 多名高管进行了关于生成式 AI 风险的调查，发现 CIO 最关心的是数据隐私，其次是幻觉，最后是安全。

让我们依次考虑每个领域。

1. 隐私和数据保护风险

实施企业版生成式人工智能的首席信息官和其他高级管理人员可能会将其数据发送到供应商的托管环境。

利坦承认，这种安排并不是什么新鲜事——十多年来，组织一直在向云和软件即服务提供商发送数据。

然而，她表示，首席信息官们认为人工智能涉及另一种风险，特别是供应商如何存储和使用信息，例如训练他们自己的大型语言模型。

Litan 表示，Gartner 已经完成了对许多提供人工智能服务的 IT 供应商的详细分析。

“数据保护的底线是，如果你使用第三方基础模型，那么一切都与信任有关，但你无法验证，”她说。 “所以，你必须相信供应商有良好的安全实践，你的数据不会泄露。我们都知道云系统会犯错误。如果你的机密数据泄露，供应商不会承担责任——你会。”

2、投入产出风险

除了评估外部流程中的数据保护风险外，组织还需要了解员工如何在生成人工智能应用程序和模型中使用数据。

利坦表示，此类风险涵盖了不可接受的数据使用，这可能会损害决策过程，包括对机密输入的懈怠、产生不准确的幻觉作为输出以及使用另一家公司的知识产权。

再加上道德问题和对模型可能存在偏见的担忧，企业领导者面临着输入和输出风险的双重影响。

利坦表示，管理生成式人工智能推广的高管必须确保整个企业的员工不认为任何事情是理所当然的。

“你必须确保你以你的组织可以接受的方式使用数据和生成人工智能；你不会放弃你王国的钥匙，并且返回的内容会被审查是否有不准确和幻觉， “ 她说。

3.新的网络安全风险

企业每天都会面临一系列网络安全风险，例如黑客由于系统漏洞或员工错误而获得对企业数据的访问权限。

然而，利坦表示，人工智能代表了一种不同的威胁向量。

“这些都是新的风险，”她说。 “存在即时注入攻击、矢量数据库攻击，黑客可以访问模型状态和参数。”

虽然潜在风险包括数据和金钱损失，但攻击者也可以选择操纵模型并将好数据换成坏数据。

利坦表示，这种新的威胁媒介意味着企业无法仅通过使用经过考验的旧措施来应对新风险。

“攻击者可以毒害模型，”她说。 “你必须在模型周围设置安全性，这是一种不同类型的安全性。端点保护不会帮助你保护数据模型。”

您的企业现在需要做什么

对于首席信息官和其他高级管理人员来说，生成式人工智能带来的风险组合似乎是一个棘手的挑战。

然而，利坦表示，随着与生成人工智能相关的风险和机遇的出现，新的解决方案也在快速发展。

“你不需要坐在那里惊慌，”她说。

“有一个正在发展的新市场。正如你可以想象的那样，当出现问题时，就会有企业家想从这些问题中赚钱。”

好消息是可行的解决方案正在酝酿之中。利坦表示，在技术市场稳定下来的同时，企业领导者应该做好准备。

“我们给 CIO 的底线建议是，“组织起来，然后定义可接受的使用策略。确保你的数据被分类并且你有访问管理。”她说。

“建立一个系统，让用户可以发送他们的申请请求，你知道他们正在使用什么数据，合适的人批准这些请求，你每年检查两次流程，以确保它得到正确执行。只需采用生成人工智能一步一步来。”