网站搜索

忘记 ChatGPT:在您自己的 PC 上运行聊天机器人的 4 个理由


要点

  • 与记录、共享和分析对话以获取利润的云聊天机器人相比,本地聊天机器人更加安全和私密。
  • 本地聊天机器人可以根据您的喜好进行定制,这与商业聊天机器人不同,商业聊天机器人可能很难在对话过程中适应不同的命令。
  • 本地聊天机器人可以离线使用,并为您节省昂贵的每月订阅费用。

很少有人在自己的机器上运行聊天机器人,因为像 ChatGPT、Claude 和其他人工智能这样基于云的聊天机器人似乎已经足够好了。然而,根据我的经验,有充分的理由在您自己的计算机上运行本地聊天机器人。

1 增强隐私

当我开始在 PC 上运行聊天机器人时,与 ChatGPT 或 Gemini 等商业选项相比,我可以自由地进行更多个人对话。这些聊天机器人至少在默认情况下会记录并分析您与他们的每一次对话。

相比之下,本地运行的聊天机器人可以提供增强的隐私,因为它们完全在您的个人硬件上运行,无需将数据发送回中央服务器或计算机。这意味着您保留对数据的完全控制,使您的对话更有可能保持私密和安全。

然而,值得注意的是,并非所有本地聊天机器人都能保证高水平的隐私。开源聊天机器人是保护隐私的最佳选择,因为您可以查看机器人背后的代码,以确保您的数据不会被发送或复制到您的计算机以外的任何地方。仅仅因为您在本地运行聊天机器人并且不需要始终在线,并不能消除您再次连接后它将信息发送回家里的可能性!

2 节省成本

无论他们的公司怎么说,商业聊天机器人并不是为了让你的生活更轻松而设计的。它们的设计目的就是为了赚钱。例如,OpenAI 可能是非营利性的,但它最终建立了一个营利性部门。此外,Character.ai 和 Claude.ai 等主要竞争对手自成立以来一直以盈利为目的。

这些公司都选择基于订阅的付费模式,大多数是每月 20 美元,例如 ChatGPT 和 Claude。在当今的经济中,随着时间的推移,每月 20 美元已经是很多了。如果您订阅多家公司,您每年将为聊天机器人支付近 500 美元或更多。

本地聊天机器人可以帮助您节省这些成本。如果您是聊天机器人的重度用户,本地聊天机器人可以让您免于订阅多家公司。如果您不经常使用它们,本地机器人是一项更明智的投资。

即使您拥有的只是一台具有 4 到 8 GB RAM 的笔记本电脑,您仍然可以通过利用低 RAM 大型语言模型来节省聊天机器人的费用,该模型可以在适度的硬件设置上高效运行。

3 离线功能

运行自己的本地聊天机器人的另一个好处是您可以离线使用它。几个月前,当我坐飞机时,这对我来说很方便。我没有下载任何电影或带书,但我的游戏笔记本电脑上有一个 DistilBERT 模型。

我能够在 35,000 英尺的高空飞行时与人工智能进行一些激动人心的对话!请记住,运行本地模型会像玩激烈的电脑游戏一样消耗电池电量。所以,这是一次快速飞行,这是一件好事!

无论如何,在服务中断期间或当您想要断开与万维网的连接但仍使用最新的人工智能技术时,在没有互联网的情况下使用聊天机器人是一个很大的优势。

4 改善延迟

本地聊天机器人的训练数据总是比大型商业机器人少。然而,如果您使用适合您的硬件的正确型号,它们还具有更快的响应时间或改善的延迟。这部分是因为你没有与其他人共享人工智能。当您与商业聊天机器人交互时,您的输入必须通过互联网传输到公司的服务器,进行处理,然后发送回给您。这种往返可能会导致明显的延迟,特别是在使用高峰期或存在网络问题时。

本地聊天机器人处理您计算机上的所有内容,从而加快响应时间。 AI 只为您服务,没有任何资源共享,这意味着没有其他用户争夺它的注意力。因此,本地聊天机器人可以提供始终如一的快速可靠的响应,优于网络上或通过手机应用程序的商业人工智能。


在我的电脑上运行聊天机器人是一个绝佳的学习机会。我通过自己设置、配置和训练聊天机器人,获得了人工智能和机器学习的实践经验。您可以轻松地执行同样的操作,并享受具有更多隐私、节省成本和改进延迟的聊天机器人。今天就试试吧!

相关文章