网站搜索

FTC 称人工智能公司 Evolv “虚假宣传”其安全扫描仪

Evolv 的扫描仪的工作效果并不像学校所认为的那么好。这对儿童安全意味着什么。

人工智能 (AI) 公司对修饰其产品功能并不陌生，而当涉及到公共安全时，其后果可能是致命的。

Evolv Technologies 声称其人工智能安全扫描仪将通过检测包括学校在内的各种场所的武器来提高公共安全。但联邦贸易委员会 (FTC) 却发现并非如此。

上周，美国联邦贸易委员会 (FTC) 向 Evolv Technologies 提出了一项和解令，指控该公司过度宣传其人工智能安全系统检测武器和“忽略无害个人物品”的能力，尤其是在学校环境中。 Evolv 的非接触式系统会在人们进入某个空间时对其进行扫描，无需手动检查包或口袋。

FTC 主席 Lina Khan 在 X 帖子中表示，Evolv 向学区“错误地宣传”了其人工智能武器检测系统，这些学区向该公司支付了“数百万美元”以在学校使用该技术。她指出，扫描仪会对水瓶和活页夹等无害物品发出警报，但无法识别武器。

据 The Intercept 报道，2022 年 6 月，Evolv 前首席执行官彼得·乔治在一次投资者会议上被问及“公司是否会阻止德克萨斯州尤瓦尔迪发生的悲惨校园枪击事件，该枪击事件造成 19 名学生和 2 名教师死亡”。

乔治回答说：“当有人通过我们的系统并且他们拥有隐藏武器或公开携带武器时，我们会找到它，就这样。”

据 Intercept 报道，尽管乔治做出了这样的声明，但数十个花费数百万美元购买枪支检测技术的学区都出现了 Evolvs 系统无法检测到武器的情况，从而引发了法律和监管审查。 2023 年，五家律师事务所宣布对 Evolv 技术可能违反证券法的行为进行调查，声称“Evolv 在其武器探测器的功能上误导了投资者”。

此外，Evolv 的股东对该公司提起集体诉讼，称该公司的营销宣传夸大了该技术的有效性。

问题还不止于此。尽管存在法律、监管和内部混乱，纽约市市长埃里克·亚当斯仍启动了一项为期三个月的试点计划，将在纽约地铁部署人工智能扫描仪。据纽约新闻媒体《地狱之门》报道，雅可比医疗中心之前也部署过相同的扫描仪，据报道在那里引发了大量误报。

随着时间的推移，人工智能系统会变得越来越好，这是很常见的，因为模型积累的数据越多，就会变得越准确。对于 Evolv 来说，情况并非如此。据《地狱之门》报道，随着试点项目的进展，人工智能扫描仪“并没有变得更加准确——没有任何一个月警报与访客的比例低于 25%”。

附加报告发现，扫描仪的“误报率为 95%”，只有 0.45% 的警报是由非执法人员携带武器触发的。

这对学校安全意味着什么

周三，Evolv Technologies 与联邦贸易委员会达成协议，解决对其先前营销主张的调查。根据 FTC 博客文章，拟议的和解令将阻止 Evolv“对其产品利用人工智能检测武器的能力做出未经证实的声明”。它还要求 Evolv “通知某些 K-12 学校客户，他们可以选择取消 2022 年 4 月 1 日至 2023 年 6 月 30 日期间签署的合同”，该合同可能是多年期的。

美国消费者保护局局长塞缪尔·莱文 (Samuel Levine) 在博客中表示，“联邦贸易委员会已经明确表示，有关技术（包括人工智能）的主张需要得到支持，当这些主张涉及安全时，这一点尤其重要。儿童。”

Evolv Technology 临时总裁兼首席执行官 Mike Ellenbogen 在该公司的新闻稿中表示，“FTC 的调查是针对过去的营销语言，而不是我们的系统为安全运营增加价值的能力。”该公司还指出，“该机构并未质疑该公司技术的基本有效性，也没有要求任何金钱救济。”

拟议的和解协议还禁止 Evolv 对以下方面做出任何虚假声明或失实陈述：

  • “其产品能够检测武器，忽略无害的个人物品，并忽略无害的个人物品，而无需访客从口袋或包中取出任何此类物品”
  • “其产品检测武器的准确性和误报率，包括与传统金属探测器的使用相比”
  • “与使用金属探测器相比，对访客进行筛查的速度”
  • “劳动力成本，包括与金属探测器的使用进行比较；测试或任何测试的结果；以及其性能的任何实质性方面，包括算法、人工智能或其他自动化系统或工具的使用。”

联邦贸易委员会过去曾指出，人工智能产品可能会过度承诺自己作为系统性问题的解决方案，这是人工智能炒作的结果。如果更多的城市、机构和学校依赖 Evolv 扫描仪等技术作为自动防故障装置，这对公共安全来说尤其危险。

相关文章