中国破获创纪录数量的个人数据泄露事件，并讨论面部识别法

涉及“AI换脸”的刑事案件举报数量也在不断增加。

中国已经查处了创纪录数量的个人数据泄露事件，并正在寻求公众对规范面部识别数据使用的法律草案的反馈。

据公安部统计，近三年来，中国警方共破获个人信息侵权案件3.6万起，抓获犯罪嫌疑人6.4万人。据官方媒体《环球时报》周四在媒体吹风会上援引商务部的话称，此次逮捕是中国政府自 2020 年以来监管互联网努力的一部分，还查获了超过 3000 万张 SIM 卡和 3 亿个“非法”互联网账户。

过去几年，警方一直在调查越来越多涉及侵犯个人数据的刑事案件，这些案件针对医疗、教育、物流和电子商务等多个行业。

该部表示，涉及人工智能 (AI) 的刑事案件也在不断增加，并援引了 2023 年 4 月发生的一起事件，其中福建省的一家公司因黑客利用人工智能改变面孔而损失了 430 万元人民币（596,510 美元）。

截至目前，执法部门已破获涉及“AI换脸”案件79起。

随着面部识别技术的广泛应用以及人工智能技术的进步，政府官员注意到利用此类数据的案例的出现。在这种情况下，网络犯罪分子会使用照片（特别是身份证上的照片）以及个人姓名和身份证号码来促进面部识别验证。

据公安部称，中国公安部门正在会同国家机构对人脸识别和其他相关技术进行安全评估，并识别人脸识别验证系统的潜在风险。

中国政府官员表示，网络犯罪生态系统从盗窃到倒卖数据再到洗钱，在很大程度上相互关联，这些犯罪分子已经建立了一个重要的“地下大数据”市场，对个人数据和“社会秩序”构成了严重风险。

拟议的全国性法律来规范面部识别

中国国家互联网信息办公室（CAC）本周早些时候发布了专门针对面部识别技术的法律草案。据《环球时报》报道，这标志着首次针对该技术提出全国性法规。

拟议的规则将要求组织在收集和使用个人面部信息之前获得“明确或书面”的用户同意。企业还必须说明他们收集数据的原因和范围，并仅将数据用于规定的目的。

未经用户同意，任何个人或组织不得利用人脸识别技术分析民族、宗教信仰、种族、健康状况等敏感个人数据。未经同意的使用也有例外，主要是为了维护国家安全和公共安全以及在紧急情况下保护个人的健康和财产。

CAC 文件指出，使用该技术的组织必须采取适当的数据保护措施，以防止未经授权的访问或数据泄露。

法律草案进一步指出，任何保留超过10,000个面部识别数据集的个人或组织必须在30个工作日内通知有关网络政府部门。

拟议的规则规定了面部识别系统的使用条件，包括它们如何处理个人面部数据以及用于什么目的。

法律草案还要求公司优先使用替代的非生物识别工具，如果这些工具能提供与基于生物识别技术相同的结果。

公众有一个月的时间提交对法律草案的反馈。

一月份，中国实施了旨在防止滥用“深度合成”技术（包括深度伪造和虚拟现实）的法规。使用这些服务的任何人都必须对图像进行相应的标记，并避免利用该技术进行违反当地法规的活动。

临时法律也将于下周生效，以管理该国的生成人工智能服务。中国政府表示，这些规定概述了各种措施，旨在促进技术的健康发展，同时保护国家和公共利益以及公民和企业的合法权利。

例如，生成式人工智能开发人员必须确保其预训练和模型优化过程符合法律规定。其中包括使用来自遵守知识产权的合法来源的数据。如果使用个人数据，必须获得个人的同意或必须按照现行规定进行。还必须采取措施提高训练数据的质量，包括其准确性、客观性和多样性。

根据暂行法，人工智能生成服务提供商对生成的信息及其安全承担法律责任。他们需要与其服务的用户签署服务级别协议，从而明确各方的权利和义务。