没有信任，人工智能搜索引擎就无法成功，而我却没有信任

要点

• 生成式人工智能搜索引擎可能会提供有用的答案，但由于不可预测性，信任是一个重要问题。
• 人类监督在搜索结果中仍然至关重要，以确保信任和准确性。
• 即使有了先进的人工智能，对技术的信任也比性能数字更重要。

生成式人工智能，至少在最前沿，能够有效地寻找、消化和以有用的方式呈现信息，以供那些寻找答案的人使用。然而，我们真的可以相信这项技术吗？原则上我们可以相信它吗？

生成式人工智能搜索引擎给出的结果令人担忧

每个人似乎都在将人工智能添加到他们的搜索产品中。 Perplexity AI 等一些公司已经围绕生成式 AI 和大型语言模型 (LLM) 构建了整个系统。成熟的搜索公司，特别是 Bing 和 Google，已将这些技术添加到其现有的搜索引擎中。

例如，谷歌现在提供人工智能摘要，法学硕士将阅读网页，这样你就不必阅读网页，并直接回答你的问题。撇开这如何将产生内容的实际网站从循环中剔除，当它起作用时，它是非常有用的。然而，就像人工智能聊天机器人容易产生“幻觉”或犯逻辑和推理错误一样，人工智能搜索也可能会遇到同样的问题。

这导致谷歌搜索人工智能建议诸如在披萨中添加胶水和吃石头之类的事情，以及月球上有猫。就谷歌而言，它正在迅速采取行动消除这些错误，但这并没有解决根本问题——信任。

必须有人对搜索结果中的信息负责

不管你相信与否，我是一个真正的人，坐在键盘前，输入你要读的单词。这意味着，如果您在这里读到一些没有意义、错误或可能造成伤害的内容，有人可以为此承担责任。同样，如果我使用来自美联社等机构的信息，并且该材料中存在严重的事实错误，我可以追索，因为有人在解释问题时犯了错误或其他错误。

我们知道信息是如何产生的，也知道谁负责。疏忽会带来后果，并且有一些系统（例如人工编辑和编辑政策）旨在在问题发布之前发现问题。当然，这些系统都不是万无一失的，但总有人负责。

到目前为止，生成式人工智能系统的行为方式甚至连其创造者都无法预测。这些十亿甚至万亿参数的模型就像黑匣子，没有人确切知道里面发生了什么。这也是为什么他们拥有如此多的承诺和权力，但这意味着制定安全且值得信赖的解决方案很困难。

即使 Google 的 Gemini 之类的准确率达到 99% 且值得信赖，我们仍然有一个问题。当然，人类自己很少那么可靠，但我们的错误也很少有足够的速度和规模来造成潜在的巨大损害。考虑一下 Google 每天处理大约 85 亿次搜索。即使这些搜索中只有 1% 包含潜在有害的信息或建议，仍然会让 8500 万人吃到有问题的东西。每天！

换句话说，像这样的系统在没有任何人参与的情况下提供建议和信息所需的标准是如此之高，以至于事实上这是不可能的。

如果人们不信任人工智能搜索结果，技术就不重要

然而，我们可以整天谈论这些人工智能系统的性能数据，如果它们不被认为值得信赖，那也没有任何区别。由于缺乏公众信任，许多有前途的技术已被封存。核事故让人们对核能产生了警惕。兴登堡的悲剧为飞艇的棺材上敲下了最后一颗钉子，尽管从氢气改为氦气将使悲剧不再可能重演。一旦您的技术被认为不值得信赖，即使您确实解决了问题，也几乎不可能纠正这种看法。

无论智能机器变得如何，人类都不可避免地参与其中

无论人工智能技术有多好，它们永远都不足以证明完全消除人类监督是合理的。并不是因为人类一定会做得更好，而是因为我相信人类永远不会完全信任他们。我们倾向于关注例外情况而不是规则，这就是人们玩彩票的原因！

最终，当这些系统造成损害时，此类系统的创建者不能逃避责任。责任必须在某个地方停止，人类必须以某种方式负责。各个网站可以对其内容负责，直到最近搜索引擎已经很好地将最值得信赖的网站放在列表的顶部。这是一个良性循环，我们尽力提供最高质量、值得信赖的内容，而搜索引擎则用流量奖励我们，从而为更多内容提供资金，等等。

现在，人工智能对这些内容的摘要存在着打破产生高质量、值得信赖的内容的循环的风险，同时也可能引入或重复危险或误导性信息。一旦您有效地将在网络上查找信息变成了俄罗斯轮盘赌游戏，就不要指望敲门的人会成为愿意的玩家。