以下是如何安装您自己的未经审查的本地 GPT 类聊天机器人
要点
- 使用 GPT4All 进行未经审查的响应来保持数据私密性。
- 下载很简单,但请确保您有足够的空间。
- 通过更新模型和分类文档来有效运行本地聊天机器人。
人工智能对许多人来说是一个很好的工具,但免费模型存在一些限制,导致其在某些情况下难以使用。这是在本地计算机上安装不受审查的类似 GPT 的聊天机器人的简单方法。
为什么我选择本地类似 GPT 的机器人
我已经使用 ChatGPT 一段时间了,甚至之前用该引擎编写了整个游戏。然而,对于该版本,我使用了仅限在线的 GPT 引擎,并意识到它的响应有点有限。在为未来的项目寻找解决方案时,我遇到了 GPT4All,这是一个 GitHub 项目,其中包含可以在您的家用计算机上私下运行 LLM 的代码。我决定安装它有几个原因,主要是:
- 我的数据保持私密,因此我不必担心 OpenAI 收集我在模型中使用的任何数据。
- 回复不会通过 OpenAI 的审查准则进行过滤。
- 我可以使用本地法学硕士和个人文件,根据如何写作和思考为我提供更量身定制的答案。
- 如果我断开连接,我的本地计算机上仍然有一个法学硕士,我可以使用它来满足我的需要。
如果你像我一样,想要一个你最喜欢的法学硕士的本地版本,并且不会自我审查,这里是如何做到这一点的详细说明。
下载GPT4All
开始使用就像从 GPT4All 快速入门网站下载软件包一样简单。下载软件包非常简单,安装也轻而易举。请注意,在没有任何模型的情况下,您将需要大约 1GB 的存储空间来存储基本应用程序。选择安装位置后,您必须等待存储库下载所有文件。
由于 Nomic 的开发方式,安装将在最常见的操作系统上运行。快速入门网站上有适用于 Windows、Linux 和 macOS 的发行版。空间要求是安装前您唯一需要注意的事情。
运行 GPT4All
完成安装后,运行 GPT4All 就像搜索该应用程序一样简单。启动它会提示我们一些选项,例如向其提供本地文档或与机载模型聊天。沿着窗口的左侧,我们可以访问之前进行的其他聊天,并查看我们用来更新本地人工智能聊天机器人的本地文档。然而,这里最重要的是模型选项卡。
默认情况下,您一开始没有安装任何模型,但您很快就会意识到您可以访问各种可以下载和使用的模型,而且完全免费。让我们看看如何将这个空的聊天机器人更新为真正令人惊叹的东西。
为您的本地聊天机器人获取新模型
屏幕左上角的模型选项卡将打开一个区域,允许您浏览可用模型。每个模型都会有一个描述符,告诉您该模型提供什么以及它适合什么。它还会让您了解模型安装所需的大小(范围从 2GB 一直到高达 7GB 的空间)。
由于我们要使用完整的离线模型,我建议使用 Mistral(以 HuggingChat 闻名)模型。为什么应该避免使用实际的 ChatGPT?让我们来分析一下原因。
首先,ChatGPT 4 需要 API 访问密钥,您必须为此付费。 3.5型号免费提供,但其处理范围有限。 GPT4All 还允许用户利用 API 访问的强大功能,但这可能涉及模型向 OpenAI 发送提示数据。只有您才能访问本地文档。 OpenAI 声称,它通过 API 收集的任何数据都不会用于培训其 LLM,但唯一的保证就是该公司的承诺。
尽管 ChatGPT 是最著名的聊天机器人之一,但它并不是唯一可用的人工智能引擎。由于可用模型的多功能性,您不仅限于将 ChatGPT 用于类似 GPT 的本地聊天机器人。
Llama3 Instruct、Mistral 和 Orca 等模型不会收集您的数据,但通常会为您提供高质量的响应。根据您的喜好,这些模型可能是比 ChatGPT 更好的选择。最好的办法是进行试验并确定哪些模型适合您的需求。请记住,您仍然需要空间来存储模型,因此如果您只使用一个模型,则不要在计算机上放置多个模型。
设置本地文档的访问权限
如果您打算使用本地聊天机器人来帮助您创建文档或指导您执行其他操作,则首先需要设置文档集合。幸运的是,GPT4All 使这一切变得简单。只需将您希望模型访问的所有文档放入易于访问的文件夹中,然后使用“添加集合”按钮将引擎指向该文件夹即可。处理时间将根据文件夹中文档的数量而有所不同,但不会花费太长时间。
添加本地文档文件夹后,您的聊天机器人将能够访问和阅读文档,并就您提出的任何问题提供建议。如果您想了解特定主题但没有时间翻阅书籍百科全书,这非常有用。与内容聊天并从中获取您想要的内容会更加有效。
有效使用本地聊天机器人的技巧
聊天机器人的用处取决于您的创造。我发现离线聊天机器人的新用户需要了解一些事情。
我尚未提及的最重要的事情之一是 GPT4All 至少运行在 8GB RAM 上。虽然您可以尝试在低于此值的情况下运行机器人,但绝对不建议这样做。
您可以为不同的文档类别构建单独的集合。例如,如果您有一组用于休闲项目的文档和一组用于专业项目的文档,则机器人可以根据您的需求开发两种类型的响应。每个文档集合都可以单独处理以避免重叠。
最后,请记住保持模型更新。
您应该时不时地检查更新的模型,以便更有效地使用聊天机器人。较新的型号可能还会附带更新的用例,因此阅读发行说明将帮助您使它们适应您希望它们执行的操作。请记住,如果您使用新模型,则必须使用该模型重新处理文档。不向后兼容旧型号。
适用于多种情况的好工具
聊天机器人可以成为快速学习或帮助创作小说等创意事业的强大方式。然而,它们仍然只是工具,其性能取决于它们所使用的数据和进行处理的模型。拥有本地聊天机器人使您能够控制机器人可以访问和学习的数据。它还可以提供比在线模型更具体的响应。一旦您让它们保持最新状态,它们将成为出色的助手。






