呼吁为人工智能带来更多以人为本的设计

许多 AI 系统的开发都基于这样的假设：'无论我们想从 AI 获得什么，我们都会按下按钮，就像变魔术一样，它会将结果提供给我们。

人工智能不应该通过一个 “大红色按钮” 来激活，这个按钮会提供不透明的结果，每个人都希望这是给定问题的最终决定。相反，它应该由循环中的人类在某种程度上控制，他们可以了解结果告诉他们什么。

这是斯坦福大学副教授 Ge Wang 的话，他敦促对 AI 应用程序和系统采用以人为本的设计方法。在最近由 Stanford HAI （Human-Centered AI） 主办的网络广播中，Wang 敦促 AI 开发人员和设计人员退后一步，考虑人类在循环中的重要作用。“我们离 AI 的答案还很远，我们还不知道大多数问题，”他指出。 

他说，当今的许多 AI 系统都是围绕红色大按钮设计的。“无论我们想从 AI 获得什么，我们都会按下按钮，就像变魔术一样，它会将结果提供给我们，”Wang 说。人们的看法是，“人工智能具有这种神奇的品质，从某种意义上说，它展示了这一点，因为没有更好的词了，智能。它能够完成复杂的任务。AI 是我们构建过的最强大的模式识别器。 

那么，问题就变成了，“我们真正想从 AI 那里得到什么？”Wang 继续说道。“我们是否一直想要神谕，它们只给我们正确的答案，而不一定地展示它的工作？或者，我们需要工具吗？我们可以用来学习变得更好的事情？根据定义，这些工具与人类互动吗？

将人类更多地带入 AI 循环的方法不一定很复杂。Wang 建议，一种非常有效的方法是引入“滑块”来陪伴 AI 应用程序的用户界面。AI 系统设计“可以从一个简单的问题开始”：'我可以在上面放一个滑块吗？'那是什么意思呢？这将如何使系统更有用或更有趣？

滑块将使用户能够增加应用于问题的 AI 的强度 - 从轻触到全面的 AI 输出。Wang 引用了他学生的一个项目的例子，这是一个将法律文件翻译成通俗易懂的英语的 AI 系统。“有趣的是，它增加了一个滑块，用于控制输出中的法律术语，”他回忆道。滑块可以使文档接近其原始法律术语，一直到完全翻译的普通语言。“当滑块被添加进来时，它就从一个僵化的大按钮系统变成了一个你可以控制的系统，但不同的人也可以识别出他们自己的需求。如果我们的工具允许我们真正使用我们的 AI 来做到这一点，那会怎样？

Wand 说：“这种人机协同设计的优势在于，您通常可以在系统的实际工作方式方面获得显著的透明度。“此外，根据你的设计方式，这是一种以有效方式结合人类判断的方法。这只是压力权衡。实际上，每次我们尝试构建一个有人类参与的系统时，我们都会看到这一点。我们应该将 weight 从构建完美算法向红色大按钮施加压力。这东西不必完美无缺，永远开箱即用，因为你知道吗？人类能够改进输出。

反过来，诸如滑块之类的调整使人类能够更好地控制 AI 输出，“几乎总是能实现更强大的系统，而不是更少，”Wang 总结道。 

与其他先进技术一样，如果简单地将 AI 放在人力组织之上，它不会成功。人们需要能够利用基于 AI 的工具来创建和实施想法和方法，这将有助于为客户和员工创造一个更美好的世界。