人们已经在试图让 ChatGPT 编写恶意软件

对暗网论坛上聊天的分析表明，使用 OpenAI 的聊天机器人来帮助编写恶意软件脚本的努力已经在进行中。

ChatGPT AI 聊天机器人在推出的短时间内就引起了很多兴奋，现在似乎已经被一些人利用来帮助生成恶意代码。

ChatGPT 是一种人工智能驱动的自然语言处理工具，它以类似人类的对话方式与用户互动。除其他外，它还可用于帮助完成撰写电子邮件、论文和代码等任务。

该聊天机器人工具由人工智能研究实验室 OpenAI 于 11 月发布，并引起了人们对人工智能如何发展以及未来如何使用它的广泛兴趣和讨论。

但就像任何其他工具一样，如果落入坏人之手，它可能被用于邪恶的目的;Check Point 的网络安全研究人员表示，地下黑客社区的用户已经在试验如何使用 ChatGPT 来帮助促进网络攻击和支持恶意作。

“技术知识非常低的威胁行为者 - 技术知识最多为零 - 可能能够创建恶意工具。它还可以使老练的网络犯罪分子的日常作更加高效和轻松——例如创建感染链的不同部分，“Check Point 威胁情报小组经理 Sergey Shykevich 告诉 ZDNET。

OpenAI 的服务条款明确禁止生成恶意软件，将其定义为“试图生成勒索软件、键盘记录器、病毒或其他旨在造成某种程度伤害的软件的内容”。它还禁止创建垃圾邮件的尝试，以及针对网络犯罪的使用案例。

然而，对几个主要地下黑客论坛活动的分析表明，网络犯罪分子已经在使用 ChatGPT 开发恶意工具——在某些情况下，它已经允许没有开发或编码技能的低级网络犯罪分子创建恶意软件。

在 12 月底出现的一个论坛帖子中，发帖人描述了他们如何使用 ChatGPT 来重现研究出版物和有关常见恶意软件的文章中描述的恶意软件菌株和技术。

通过这样做，他们已经能够创建基于 Python 的信息窃取恶意软件，该恶意软件搜索包括 Microsoft Office 文档、PDF 和图像在内的常见文件，复制它们，然后将它们上传到文件传输协议服务器。

同一用户还演示了他们如何使用 ChatGPT 创建基于 Java 的恶意软件，这些恶意软件使用 PowerShell 可以被用来秘密下载其他恶意软件并将其运行到受感染的系统上。

研究人员指出，发布这些帖子的论坛用户似乎是“以技术为导向的”，并分享这些帖子以向技术能力较弱的网络犯罪分子展示如何将 AI 工具用于恶意目的，并附有如何做到这一点的真实示例。

一位用户发布了一个 Python 脚本，他们说这是他们创建的第一个脚本。在与另一位论坛成员讨论后，他们说 ChatGPT 帮助他们创建了它。

对该脚本的分析表明，它旨在加密和解密文件，通过一些工作，这些文件可能会变成勒索软件，这可能会导致低级网络犯罪分子开发和分发自己的勒索活动。

“当然，上述所有代码都可以以良性的方式使用。但是，可以轻松修改此脚本以完全加密某人的计算机，而无需任何用户交互。例如，如果脚本和语法问题得到修复，它可能会将代码变成勒索软件，“Check Point 说。

“它需要对代码和语法进行一些改进，但从概念上讲，当运行时，该工具可以执行与勒索软件类似的作，”Shykevich 说。

但网络犯罪分子使用 ChatGPT 进行试验的不仅仅是恶意软件开发;在新年前夜，一位地下论坛成员发布了一个帖子，展示了他们如何使用该工具创建脚本，这些脚本可以运行一个自动化的暗网市场，用于买卖被盗帐户详细信息、信用卡信息、恶意软件等。

网络犯罪分子甚至展示了一段使用第三方 API 生成的代码，以获取门罗币、比特币和以太坊加密货币的最新价格，作为暗网市场支付系统的一部分。

很难判断在 ChatGPT 的帮助下生成的恶意网络活动是否在野外积极运作，因为正如 Sykevich 解释的那样，“从技术角度来看，很难知道特定的恶意软件是否是使用 ChatGPT 编写的”。

但随着人们对 ChatGPT 和其他 AI 工具的兴趣日益浓厚，它们将吸引网络犯罪分子和欺诈者的注意，他们希望利用该技术来帮助以低成本和最少的努力进行恶意活动。ZDNET 已联系 OpenAI 寻求置评，但截至发稿时尚未收到回复。

有关网络安全的更多信息

相关文章