技术专家 Bruce Schneier 谈安全、社会以及为什么我们需要“公共人工智能”模型

这位著名的安全专家表示，完全透明的模型可以帮助我们将人工智能变成一种为每个人带来好处的工具。

著名安全专家 Bruce Schneier 在亚特兰大举行的安全开源软件 (SOSS) 融合会议上发表主题演讲，讨论了人工智能 (AI) 对网络安全和社会的承诺和威胁。

施奈尔首先说道：“人工智能是一个复杂的词。当我思考技术如何取代人类时，我认为它们在四个维度中的一个或多个方面取得了进步：速度、规模、范围和复杂性。人工智能并不擅长他们的训练速度比人类快。”有趣的是，当速度从根本上改变事情时。

例如，他说，“高频交易（HFT）不仅仅是更快的交易。它是一种不同类型的动物。这就是我们担心人工智能、社交媒体和民主的原因。人工智能代理的范围和规模是如此伟大，以至于它们改变了社交媒体的性质。”例如，人工智能政治机器人已经影响了美国大选。

施奈尔提出的另一个担忧是，人工智能会犯与人类不同的错误。 “人工智能将犯更多系统性错误，”他警告说。 “目前人工智能还不具备人类的常识基线。”当人工智能应用于关键决策过程时，缺乏常识可能会导致普遍的错误。

这并不是说人工智能不能发挥作用——它们确实可以发挥作用。施奈尔举了一个例子：“人工智能可以监控网络，进行源代码和漏洞扫描。这些都是人类可以做到的领域，但当事情实时发生时，我们的速度太慢了。即使人工智能可以做得很平庸在审查所有源代码时，这将是惊人的，并且所有这些领域都将有大量工作要做。”

具体来说，他继续说道，“我认为我们将看到人工智能对安全问题进行第一级分类。我将它们视为帮助分析数据的法医助理。我们正在获取大量有关威胁行为者及其行为的数据，我们需要有人来检查它。”

施奈尔认为人工智能可以帮助填补这一空白。虽然人工智能无法取代人类专家（至少目前还不能），但它们可以提供帮助：“人工智能可以成为我们的爪牙。它们还好。它们没那么聪明。但它们可以通过外包一些工作来提高人类的效率。”驴干活。”

安全专家 Bruce Schneier 在 SOSS Fusion 2024 上。

当谈到人工智能在安全领域的应用时，施奈尔表示，“这将是一场军备竞赛，但最初，我认为防御者会更好。我们已经在以计算机速度受到攻击。以计算机速度进行防御的能力将非常有效。”

不幸的是，人工智能系统在能够独立帮助我们之前还有很长的路要走。施奈尔表示，部分问题在于“我们知道人类的爪牙是如何犯错误的，而且我们有数千年处理人类错误的历史。但是人工智能会犯不同类型的错误，我们的直觉将会失效，我们需要找出新的审计和审查方法，以确保人工智能类型的错误不会破坏我们的工作。”

施奈尔表示，坏消息是我们不善于识别人工智能的错误。然而，“我们将在这方面做得更好，了解人工智能的局限性以及如何防范它们。我们将更好地分析人工智能的优势及其做出的决策，并看看我们是否”我们将寻求增强人类而不是取代人类。”

目前，“经济激励措施是用这些更便宜的替代品取代人类”，但这通常不是正确的答案。 “最终，公司会认识到这一点，但目前，他们常常会让人工智能负责他们真正无法胜任的工作。”

施奈尔还谈到了人工智能开发力量集中在少数大型科技公司手中的问题。他主张创建完全透明的“公共人工智能”模型，并以社会利益而非盈利动机为出发点。 “我们需要非企业的人工智能模型，”施奈尔说。 “我希望燃烧大量现金来创建基础模型的时代将是暂时的。”

展望未来，施奈尔对人工智能改善民主进程和公民与政府参与的潜力表示谨慎乐观。他强调了几项致力于利用人工智能改善立法准入和参与的非营利举措。

“我们能否建立一个系统来帮助人们与立法者互动并就对他们重要的法案发表评论？”施奈尔问道。 “人工智能在其中发挥着重要作用，无论是在语言翻译方面，还是在后端总结系统意见以提交给立法者方面，这都是人工智能在法案摘要方面的巨大胜利。”

施奈尔表示，随着人工智能的快速发展，人们越来越需要深思熟虑的系统设计和监管框架，以在利用该技术优势的同时降低风险。我们不能依赖公司来做这件事。他们的利益不是人民的利益。随着人工智能融入安全和社会的关键方面，我们必须尽早解决这些问题。