新加坡发布保护人工智能系统和禁止选举中深度造假的指南
该安全指南涵盖人工智能生命周期的五个阶段，以帮助减轻人工智能实施的不同风险。
新加坡本周发布了一系列网络安全公告，包括保护人工智能 (AI) 系统的指南、医疗设备安全标签，以及禁止选举广告内容中深度造假的新立法。
其新的《保护人工智能系统指南》和《配套指南》旨在推动一种安全的设计方法，以便组织可以减轻人工智能系统开发和部署中的潜在风险。
新加坡网络安全局（CSA）表示：“人工智能系统可能容易受到对抗性攻击，恶意行为者会故意操纵或欺骗人工智能系统。” “人工智能的采用还会加剧企业系统现有的网络安全风险，这可能导致数据泄露等风险，或导致有害或其他不良的模型结果。”
该政府机构表示：“因此，与所有软件系统一样，人工智能在设计上和默认情况下都应该是安全的。”
它指出，该指南确定了供应链攻击等潜在威胁以及对抗性机器学习等风险。它们是参考既定国际标准制定的，包括帮助从业者实施安全控制的原则和保护人工智能系统的最佳实践。
该指南涵盖了人工智能生命周期的五个阶段，包括开发、运营和维护以及生命周期结束，后者强调了如何处理数据和人工智能模型工件。
CSA 表示，为了开发配套指南，它与人工智能和网络安全专业人士合作，提供“社区驱动的资源”，提供“实用”的措施和控制。本指南也将进行更新，以跟上人工智能安全市场的发展。
它包括案例研究，包括对图像识别监控系统的补丁攻击。
然而，由于这些控制措施主要解决人工智能系统的网络安全风险，因此该指南并未解决人工智能安全或其他相关组成部分，例如透明度和公平性。不过，CSA 表示，一些建议的措施可能会重叠，并补充说，该指南并未涵盖在网络攻击中滥用人工智能的情况，例如人工智能驱动的恶意软件或深度伪造等诈骗。
然而，新加坡已通过新立法，禁止使用深度伪造品和其他数字生成或操纵的在线选举广告内容。
此类内容描述了候选人说了或做了一些他们没有说过或做过的事情，但“足够现实”，让公众“有理由相信”被操纵的内容是真实的。
Deepfake 被禁止参加竞选活动
数字发展部长表示，《在线广告选举完整性》（修正案）法案在议会二读后获得通过，该法案还涉及使用人工智能生成的内容，包括生成式人工智能（Gen AI）和拼接等非人工智能工具。和信息约瑟芬·张。
“该法案的范围是解决选举中最有害的内容类型，即通过虚假陈述候选人的言论或行为来误导或欺骗公众关于候选人的内容，这些内容足够现实，足以令人合理地相信一些公众人士”，Teo 说。 “现实的条件将得到客观评估。没有一套放之四海而皆准的标准，但可以提出一些一般性的观点。”
她解释说，这些内容包含与候选人已知的特征、表达和举止“密切匹配”的内容。她补充说，内容还可能使用真实的人物、事件和地点，因此看起来更可信。
她指出，大多数公众可能会觉得总理在社交媒体上提供投资建议的内容是不可思议的，但有些人仍然可能成为此类人工智能骗局的受害者。她说：“在这方面，只要有一些公众有理由相信候选人确实说了或做了所描述的事情，法律就适用。”
根据新立法，要禁止的内容必须满足以下四个要素：在线选举广告是否是数字化生成或操纵的，是否描绘了候选人所说或所做的事情，以及是否足够现实，足以被某些人视为在公众面前是合法的。
Teo 表示，该法案并未禁止在选举活动中“合理”使用人工智能或其他技术，例如模因、人工智能生成或动画角色以及卡通。它也不适用于“良性美容改变”，包括使用美容滤镜和调整视频中的灯光。
该部长还指出，该法案不会涵盖私人或家庭通信或个人之间或封闭群聊内共享的内容。
“话虽如此，我们知道虚假内容可以在开放的 WhatsApp 或 Telegram 渠道上迅速传播，”她说。 “如果有报道称在大型群聊中传播了禁止的内容，而这些群聊涉及许多彼此陌生的用户，并且公众可以自由访问，那么此类通信将根据该法案进行处理，我们将评估是否应该采取行动。被采取了。”
她补充说，该法律也不适用于授权新闻机构发布的新闻，也不适用于“不小心”转发消息和链接而没有意识到内容已被操纵的外行人。
Teo 解释说，新加坡政府计划使用各种检测工具来评估内容是否是通过数字手段生成或操纵的。她说，其中包括商业工具、内部工具以及与研究人员开发的工具，例如在线安全先进技术中心。
在新加坡，将向相关人员（包括社交媒体服务）发出纠正指示，以删除或禁止访问被禁止的在线选举广告内容。
对于不遵守纠正指示的社交媒体服务提供商，可能会处以最高 100 万新加坡元的罚款。对于不遵守纠正指示的所有其他方，包括个人，可能会处以最高 1,000 新元的罚款或最高一年的监禁，或两者并罚。
Teo 表示：“在已经举行或计划举行选举的国家，深度造假事件明显增加。”他援引 Sumsub 的研究估计，印度的深度造假事件增加了三倍，韩国增加了 16 倍以上。与一年前相比。
她说：“人工智能生成的错误信息可能严重威胁我们的民主基础，需要同样严肃的回应。”她补充说，新法案将确保维护“候选人代表的真实性”和新加坡选举的完整性。
该医疗设备是否得到充分保护？
新加坡还希望帮助用户购买受到充分保护的医疗设备。周三，CSA 推出了针对此类设备的网络安全标签计划，扩大了涵盖消费者物联网 (IoT) 产品的计划。
这项新举措是与卫生部、卫生科学局和国家卫生技术机构 Synapxe 联合制定的。
CSA 表示，该标签旨在表明医疗设备的安全级别，并使医疗保健用户能够做出明智的购买决定。该计划适用于处理个人身份信息和临床数据的设备，具有收集、存储、处理和传输数据的能力。它还适用于连接到其他系统和服务并可以通过有线或无线通信协议进行通信的医疗设备。
产品将根据四个等级进行评估，1级医疗设备必须满足基线网络安全要求，4级系统必须具有增强的网络安全要求，还必须通过独立的第三方软件二进制分析和安全评估。
此次发布是在 2024 年 7 月结束的为期 9 个月的沙盒阶段之后进行的，在此期间，来自 19 家参与的医疗设备制造商的 47 个应用程序对其产品进行了各种测试。其中包括体外诊断分析仪、软件二进制分析、渗透测试和安全评估。
从沙盒阶段收集的反馈用于微调该计划的操作流程和要求，包括提供更清晰的申请流程和评估方法。
该标签计划是自愿的，但 CSA 呼吁需要采取“积极主动的措施”来防范日益增长的网络风险，特别是在医疗设备越来越多地连接到医院和家庭网络的情况下。
新加坡的医疗设备目前必须在 HSA 注册，并遵守包括网络安全在内的监管要求，然后才能进口并在该国销售。
CSA 在另一份声明中表示，消费设备的网络安全标签计划现已在韩国得到认可。
这些双边协议是在本周举行的 2024 年新加坡国际网络周会议期间与韩国互联网安全局 (KISA) 和德国联邦信息安全局 (BSI) 签署的。
韩国协议预计于明年 1 月 1 日生效，KISA 的物联网网络安全认证和新加坡的网络安全标签将在两国相互认可。这标志着亚太市场首次成为此类协议的一部分，新加坡还与芬兰和德国签署了该协议。
韩国的认证计划包括三个级别：Lite、Basic 和 Standard，所有级别都需要经过第三方实验室测试。获得基本级别的设备将被视为已获得新加坡标签计划的第 3 级要求，该计划有四个评级级别。 KISA 也将承认新加坡的 3 级产品已完成其基本级认证。
这些标签将适用于消费者智能设备，包括家庭自动化、报警系统和物联网网关。