ChatGPT最受赞誉的能力也给企业带来了巨大的风险

它模仿人类反应的能力引发了目前围绕人工智能工具的炒作，这也是最大的威胁。

虽然 ChatGPT 生成类似人类答案的能力受到广泛赞誉，但它也给企业带来了最大的风险。

黑莓亚太区工程总监乔纳森·杰克逊 (Jonathan Jackson) 表示，人工智能 (AI) 工具已被用于增强网络钓鱼攻击。

在谈到地下论坛中发现的活动时，他表示，有迹象表明黑客正在使用 OpenAI 的 ChatGPT 和其他人工智能驱动的聊天机器人来改进假冒攻击。杰克逊在 ZDNET 的视频采访中表示，它们还被用来支持深度伪造和传播错误信息。他补充说，黑客论坛正在提供利用 ChatGPT 进行邪恶目的的服务。

在上个月发布的一份报告中，Check Point Technologies 的威胁情报小组经理 Sergey Shykevich 还指出，有迹象表明网络犯罪分子使用 ChatGPT 来加速他们的代码编写。在一个例子中，安全供应商指出，该工具被用来成功完成感染流程，其中包括创建令人信服的鱼叉式网络钓鱼电子邮件和可以接受英语命令的备用 shell。

尽管迄今为止开发的攻击代码仍然相当基本，但什克维奇表示，更复杂的威胁行为者增强他们使用此类基于人工智能的工具的方式只是时间问题。

Synopsys Software Integrity Group 首席科学家 Sammy Migues 在 2023 年的预测中写道，为 Deepfake 和 ChatGPT 提供支持的技术将会产生一些“副作用”。需要有关如何配置新安全设备的“专家”建议或技术支持的人可以求助于 ChatGPT。他们还可以使用人工智能工具来编写加密模块或运行多年的日志数据以生成预算审查。

“可能性是无限的，”米格斯说。 “当然，人工智能只是一个无意识的自动机，喷出它组装的东西，但乍一看它非常令人信服。”

利用人工智能来对抗人工智能

Jackson 指出，ChatGPT 等生成式人工智能应用程序的出现将推动网络格局发生重大变化。他说，安全和网络防御工具将需要能够识别由于构建这些应用程序的大型语言模型而出现的新威胁。

这是相关的，因为企业预计此类风险很快就会到来。

黑莓最近对澳大利亚 500 名受访者进行的一项研究显示，在澳大利亚，84% 的 IT 决策者对生成式人工智能和大型语言模型可能带来的潜在威胁表示担忧。

一半的受访者最担心的是，该技术可以帮助经验不足的黑客提高知识并培养更专业的技能。

另外 48% 的人担心 ChatGPT 能否生成看起来更可信、更合法的网络钓鱼电子邮件； 36% 的人看到了它加速社会工程攻击的潜力。

约 46% 的人担心它被用来传播错误或虚假信息，67% 的人认为外国可能已经在将 ChatGPT 用于恶意目的。

超过一半（53%）的受访者预计，该行业距离首次成功的由人工智能技术驱动的网络攻击将在不到一年的时间内发生，而 26% 的受访者表示这将在一到两年内发生，12% 的受访者表示这将在一年内发生。需要三到五年的时间。

虽然 32% 的人认为该技术既不会改善也不会恶化网络安全，但 24% 的人认为它会加剧威胁形势。另一方面，40% 的人表示这有助于提高网络安全。

约 90% 的澳大利亚受访者认为政府有责任监管先进技术，例如 ChatGPT。另外 40% 的人认为网络安全工具目前落后于网络犯罪方面的创新，30% 的人指出网络犯罪分子将从 ChatGPT 中受益最多。

不过，约 60% 的人表示该技术将使研究人员受益最多，而 56% 的人认为安全专业人员可以从中受益最多。

约 85% 计划在未来两年内投资人工智能驱动的网络安全工具。

然而，双方利用人工智能和自动化来发起和防御网络攻击并不是什么新鲜事。那么为什么现在大惊小怪呢？

Jackson 承认人工智能已在网络防御中使用多年，但指出 ChatGPT 和其他类似工具的独特之处在于它们能够将编码语言等固有复杂的概念转化为任何人都能理解的东西。

此类工具在大型语言模型上运行，这些模型基于大量精心策划的上下文贸易数据集。 “它在特定的事情上非常强大，”他指出。 “对于任何想要创建良好代码或在本例中创建恶意代码（例如绕过网络防御的脚本）的人来说，ChatGPT 都是一个极其强大的资源。”

它还可用于网络抓取特定个人的社交媒体资料，以创建和冒充他们进行鱼叉式网络钓鱼攻击

“最大的影响是社会工程和假冒，”他说，并补充说 ChatGPT 等工具将用于改进网络钓鱼活动。

随着大型语言模型的出现，他强调需要重新思考传统的网络和数据防御方法。他指出了利用人工智能和机器学习来对抗人工智能攻击的重要性。

他说，投资人工智能和机器学习能力将帮助组织更快地识别潜在威胁，这一点很重要。 “利用人类已经不再现实，过去几年也不现实。”

杰克逊指出，黑莓一直在研究训练模型所需的算法，以识别攻击技术的变化并阻止似乎由大型语言模型生成的恶意内容。他补充说，容量和速度将是关键，因此即使 ChatGPT 和类似工具不断发展，它也能跟上潜在的攻击。

他进一步强调，这些应用也对行业产生了积极影响。例如，黑莓正在使用 ChatGPT 进行高级威胁搜寻，利用其编码能力来消化和分析复杂的脚本，以便研究这些脚本的运作方式并增强其防御策略。