人工智能机器人是否像我们一样容易受到社会工程的影响？

也许聊天机器人不应该相信人类所说的一切。

“社会工程”是黑客针对计算机安全系统的人为因素使用的一种经过考验的策略，通常是因为它比击败复杂的安全技术更容易。随着新的人工智能变得越来越像人类，这种方法对他们有效吗？

什么是社会工程？

不要与政治学中道德上可疑的概念相混淆，在网络安全领域，社会工程是利用心理操纵让人们做你想做的事情的艺术。如果您是一名黑客，您希望人们做的事情包括泄露敏感信息、交出密码或直接向您的帐户存钱。

社会工程范畴内有许多不同的黑客技术。例如，将受恶意软件感染的闪存驱动器随意放置取决于人类的好奇心。摧毁伊朗核设施设备的 Stuxnet 病毒可能是通过植入的 USB 驱动器进入这些计算机的。

但这不是与此相关的社会工程类型。相反，诸如“鱼叉式网络钓鱼”（有针对性的网络钓鱼攻击）和“借口”（使用虚假身份来欺骗目标）等常见攻击（其中一个人与另一个人交谈从而导致欺骗）在这里是相关的。

由于与你通话或聊天室中的“人”几乎肯定最终会是某种类型的人工智能聊天机器人，这就提出了社会工程艺术是否仍然对合成目标有效的问题。

聊天机器人越狱已经存在一段时间了，并且有很多例子表明有人可以说服聊天机器人违反其自身的行为规则，或者做一些完全不适当的事情。

原则上，越狱的存在和有效性表明聊天机器人实际上可能容易受到社会工程的攻击。聊天机器人开发人员不得不反复缩小其范围并设置严格的护栏以确保其行为正常，这似乎激发了另一轮越狱，看看这些护栏是否可以暴露或规避。

我们可以找到 X（以前称为 Twitter）用户发布的一些示例，例如 Paris Buttfield-Addison 博士发布的屏幕截图显然显示了如何说服银行聊天机器人更改其名称。

例如，可以说服银行聊天机器人放弃敏感信息的想法确实令人担忧。话又说回来，针对此类滥用的第一道防线是首先避免让这些聊天机器人访问此类信息。在没有任何人为监督的情况下，我们可以对此类软件承担多少责任，还有待观察。

另一方面，这些人工智能程序要想发挥作用，就需要获取信息。因此，这并不是真正让他们远离信息的解决方案。例如，如果人工智能程序正在处理酒店预订，它需要访问客人的详细信息才能完成工作。那么，人们担心的是，精明的骗子可能会巧妙地说服人工智能泄露谁住在该酒店以及哪个房间。

另一种潜在的解决方案可能是使用“伙伴”系统，其中一个人工智能聊天机器人监视另一个机器人，并在它开始脱轨时介入。让人工智能主管在将每个响应传递给用户之前对其进行审查可能是缓解此类方法的一种方法。

最终，当您创建模仿自然语言和逻辑的软件时，理所当然的是，适用于人类的相同说服技术至少也适用于其中一些系统。因此，也许未来的黑客可能想在阅读有关网络安全的书籍的同时阅读如何赢得朋友并影响人们。