CXO 如何驾驭负责任的 AI 路线图
这是 Forrester 对有兴趣了解更多信息的技术和商业领导者的每项原则的看法。商业圆桌会议的路线图
最近，由美国主要公司 CEO 组成的有影响力的团体 Business Roundtable 发布了负责任的人工智能路线图。虽然由于市场力量（例如即将出台的欧洲人工智能法案）和基于价值观的消费者的需求，许多公司已经在考虑负责任的 AI，但这一公告将把对话提升到最高管理层。
其中一些原则是令人耳目一新的规范性，例如“与多样性一起创新并为多样性而创新”。其他原则，例如“减少不公平偏见的可能性”，过于模糊或不完整，没有用处。对于有兴趣采用任何或所有这些原则的科技和商业领袖来说，细节决定成败。以下是我们对每项原则的简要看法：
- 与多元化一起创新，为多元化而创新。当构思和开发 AI 系统的人都彼此相似时，必然会存在重大盲点。雇用多元化的团队来开发、部署、监控和使用 AI 有助于消除这些盲点，这也是 Forrester 自 2018 年第一份关于 AI 道德规范的报告以来一直建议的做法。
- 减少不公平偏见的可能性。公平性有 20 多种不同的数学表示形式，选择合适的方式取决于您的策略、用例和企业价值观。换句话说，公平在于旁观者的 AI。
- 设计并实现透明度、可解释性和可解释性。可解释 AI （XAI） 有许多不同的风格 — 透明度依赖于完全透明的“玻璃盒”算法，而可解释性则依赖于解释不透明系统（如深度神经网络）如何运作的技术。
- 投资于面向未来的 AI 员工队伍。AI 更有可能改变大多数人的工作，而不是消除他们，但大多数员工还没有准备好。他们缺乏拥抱 AI 的技能、倾向和信任。投资于机器人商数（衡量准备情况的指标）可以让员工为与 AI 并肩工作做好准备。
- 评估和监控模型适用性和影响。对于面临数据漂移危险的公司来说，这场大流行病是一个真实的教训。公司需要采用机器学习作 （MLOps） 来监控 AI 的持续性能，并考虑通过偏见赏金进行众包偏见识别。
- 负责任地管理数据收集和数据使用。虽然 Business Roundtable 框架强调数据质量和准确性，但它忽视了隐私。了解 AI 与个人数据之间的关系对于负责任地管理 AI 至关重要。
- 设计和部署安全的 AI 系统。没有强大的网络安全和隐私实践，就没有安全的 AI。
- 在全公司范围内鼓励负责任的 AI 文化。一些公司开始采取自上而下的方法，通过任命首席信任官或首席道德官来培养负责任的 AI 文化。我们预计明年将看到更多此类任命。
- 调整现有治理结构以考虑 AI。环境数据治理是一种将数据治理注入日常数据交互并根据个人意图智能调整数据的策略，非常适合 AI。在 AI 治理的上下文中映射您的数据治理工作。
- 在整个组织中实施 AI 治理。在许多组织中，治理已经成为一个肮脏的词。这不仅不幸，而且相当危险。了解如何克服治理疲劳。
缺少 什么
尽管商业圆桌会议的路线图强大且善意，但它缺少公司必须接受的两个关键要素，以便负责任地采用 AI：
通过严格的尽职调查降低第三方风险。大多数公司都在与第三方合作采用 AI — 通过购买第三方 AI 解决方案或使用第三方的 AI 构建块开发自己的解决方案。无论哪种情况，第三方风险都是真实的，需要减轻。我们的报告《AI Aspirants： Caveat Emptor》解释了在复杂的 AI 供应链中降低第三方风险的最佳实践。
测试 AI 以降低风险并提高业务价值。注入 AI 的软件引入了不确定性，因此需要对各种模型和自动软件之间的交互进行额外测试。Forrester 开发了一个基于业务风险的测试策略框架，并建议所需的测试级别和类型。
对负责任的 AI 的重视不会很快消失。投资于人员、流程和技术以确保合乎道德和负责任地采用 AI 的公司将使其业务在未来免受监管或声誉破坏的影响。
本文由副总裁兼首席分析师 Brandon Purcell 撰写，最初出现在这里。