人工智能伦理学家表示，如果我们现在不采取行动，今天的人工智能繁荣将会加剧社会问题

基于互联网数据训练的人工智能系统有强化负面偏见并造成社会危害的危险。 Salesforce 的 Kathy Baxter 解释了如何解决这个问题。

Salesforce 道德人工智能实践首席架构师 Kathy Baxter 表示，人工智能开发人员必须迅速采取行动，开发和部署解决算法偏差的系统。在接受 ZDNET 采访时，Baxter 强调了数据集和用户研究中多样化表现的必要性，以确保人工智能系统的公平和公正。她还强调了让人工智能系统透明、易于理解和负责任，同时保护个人隐私的重要性。 Baxter 强调需要跨部门合作，就像美国国家标准与技术研究院 (NIST) 使用的模型一样，以便我们能够开发出强大且安全的人工智能系统，造福于每个人。

人工智能伦理的基本问题之一是确保人工智能系统的开发和部署不会强化现有的社会偏见或创造新的社会偏见。为了实现这一目标，巴克斯特强调了询问谁受益、谁为人工智能技术付费的重要性。考虑正在使用的数据集并确保它们代表每个人的声音至关重要。开发过程的包容性和通过用户研究识别潜在危害也至关重要。

“这是我们必须讨论的基本问题之一，”巴克斯特说。 “特别是有色人种女性，多年来一直在问这个问题并在该领域进行研究。我很高兴看到很多人谈论这个问题，特别是在使用生成式人工智能方面。但是我们需要做的事情从根本上来说，我们要问的是谁受益、谁为这项技术付费？”

社会偏见可以通过用于训练人工智能系统的数据集注入到人工智能系统中。包含偏见的不具代表性的数据集，例如主要包含一种种族或缺乏文化差异的图像数据集，可能会导致人工智能系统出现偏见。此外，人工智能系统在社会中的应用不均衡可能会延续现有的刻板印象。

为了使人工智能系统对普通人透明且易于理解，在开发过程中优先考虑可解释性是关键。 “思维链提示”等技术可以帮助人工智能系统展示其工作并使其决策过程更容易理解。用户研究对于确保解释清晰以及用户能够识别人工智能生成内容中的不确定性也至关重要。

保护个人隐私并确保负责任地使用人工智能需要透明度和同意。 Salesforce 遵循负责任的生成式 AI 准则，其中包括尊重数据来源以及仅在征得客户同意的情况下使用客户数据。允许用户选择加入、选择退出或控制其数据使用对于隐私至关重要。

“我们只有在征得客户同意的情况下才使用客户数据，”巴克斯特说。 “当你使用某人的数据时保持透明，允许他们选择加入，并允许他们在不再希望他们的数据被包含在内时回去说，这非常重要。”

随着生成人工智能创新的竞争加剧，保持人类对日益自主的人工智能系统的控制和自主比以往任何时候都更加重要。让用户能够就人工智能生成的内容的使用做出明智的决定并让人类了解情况有助于保持控制。

确保人工智能系统安全、可靠、可用至关重要；全行业的合作对于实现这一目标至关重要。巴克斯特赞扬了 NIST 创建的人工智能风险管理框架，该框架涉及来自各个领域的 240 多名专家。这种协作方法为识别风险和共享解决方案提供了通用语言和框架。

未能解决这些人工智能道德问题可能会产生严重后果，例如由于面部识别错误或生成有害图像而导致错误逮捕的情况。投资于保障措施并关注此时此地，而不仅仅是关注未来潜在的危害，可以帮助缓解这些问题并确保负责任地开发和使用人工智能系统。

虽然人工智能的未来和通用人工智能的可能性是令人感兴趣的话题，但巴克斯特强调了关注当下的重要性。确保负责任地使用人工智能并解决当今的社会偏见将使社会更好地为未来人工智能的进步做好准备。通过投资道德人工智能实践和跨行业合作，我们可以帮助为人工智能技术创造一个更安全、更具包容性的未来。

“我认为时间表非常重要，”巴克斯特说。 “我们确实必须在此时此地进行投资，创造这种肌肉记忆，创造这些资源，制定法规，使我们能够继续前进，但安全地进行。”