AI 伦理应该像设计安全一样进行硬编码
Salesforce.com 的 AI 伦理首席架构师表示，由于安全设计对于确保 IT 系统从开发开始就具有稳健性至关重要，因此应将相同的方法应用于人工智能工具，以便可以负责任且无偏见地部署这些工具。
企业在开始构思和开发人工智能 （AI） 产品时，需要从头开始考虑道德问题。这将有助于确保 AI 工具能够负责任且无偏见地实施。
同样的方法已经被认为对网络安全产品至关重要，其中“安全设计”开发原则将推动从一开始就评估风险和硬编码安全性的需求，因此可以在后期避免零碎的拼凑和昂贵的改造。
Salesforce.com 的道德 AI 实践首席架构师 Kathy Baxter 表示，这种思维方式现在应该应用于 AI 产品的开发，她强调组织需要通过 AI 道德满足基本开发标准。
她指出，网络安全行业有很多经验教训可以吸取，自 1980 年代第一个恶意软件出现以来，该行业在过去几十年中不断发展。对于一个在此之前甚至不存在的行业来说，网络安全已经改变了公司保护其系统的方式，重点是从一开始就识别风险并制定应实施的基本标准和法规。
因此，今天的大多数组织都会制定包括员工在内的所有利益相关者都应该遵守的基本安全标准，Baxter 在接受 ZDNet 采访时说。例如，Salesforce.com 的所有新员工都必须经过入职培训，公司会概述员工在网络安全实践方面的期望，例如采用强密码和使用 VPN。
她说，这同样适用于道德规范，并补充说，公司内部有一个专门推动这一点的内部团队。
Baxter 说，还有一些资源可以帮助员工评估是否应该根据公司的道德准则来执行任务或服务，并了解红线在哪里。例如，Salesforce.com 的 AI 驱动的 Einstein Vision 永远不能用于面部识别，因此任何不知道这一点并试图销售用于此类部署的产品的销售人员都将违反公司的政策。
她说，正如网络安全实践定期审查和修订以跟上不断变化的威胁形势一样，与 AI 道德相关的政策也应该适用。
她指出，随着社会和文化随着时间的推移而变化，10 年前曾经被认为相关的价值观可能不再与一个国家今天人民持有的观点一致，这一点至关重要。AI 产品需要反映这一点。
数据是解决 AI 偏见的主要障碍
虽然政策可以减轻 AI 中的一些偏见风险，但仍然存在其他挑战，尤其是数据访问。缺乏数量或种类可能会导致行业或细分市场的表示不准确。
Baxter 说，这对医疗保健行业来说是一个重大挑战，尤其是在美国等没有社会化医疗或政府运营的医疗保健系统的国家。当 AI 模型由基于一小部分人群的有限数据集进行训练时，它可能会影响某些人群的医疗保健服务的提供和检测疾病的能力。
Salesforce.com 无法访问或使用客户的数据来训练自己的 AI 模型，它将通过从外部来源购买来填补空白，例如用于训练其聊天机器人的语言数据，以及利用合成数据。
当被问及监管机构在推动 AI 道德方面发挥的作用时，Baxter 表示，强制使用特定指标可能是有害的，因为围绕“可解释 AI”的定义以及应该如何实施仍然存在许多问题。
这位 Salesforce.com 执行官是新加坡人工智能和数据道德使用咨询委员会的成员，该委员会就与私营部门使用数据驱动技术相关的政策和治理向政府提供建议。
巴克斯特指出她在委员会的经历，其成员很快意识到，单独定义“公平”很复杂，大约有二十多个统计定义。此外，她指出，对一个群体公平的东西有时不可避免地对另一个群体来说会不那么公平。
她说，定义“可解释性”也很复杂，即使是机器学习专家也可能根据预定义的解释来误解模型的工作原理。任何使用 AI 驱动数据的人以及所有部门（例如现场代理或社会工作者）都应该易于理解制定的政策或法规。
Baxter 表示，意识到这些问题很复杂，新加坡理事会决定建立一个框架和指南（包括工具包）来帮助 AI 采用者了解其影响并在 AI 使用方面保持透明，这将更加有效。
新加坡上个月发布了一个名为 A.I. Verify 的工具包，据称该工具包将使企业能够展示他们对人工智能的“客观和可验证”的使用。此举是政府通过技术和流程检查来提高 AI 部署透明度的努力的一部分。
Baxter 敦促消除这样一种误解，即 AI 系统在默认情况下是公平的，仅仅因为它们是机器，因此没有偏见。她说，组织和政府必须投入努力，确保 AI 的好处得到平均分配，并确保其应用符合负责任的 AI 的某些标准。