这就是为什么人工智能驱动的错误信息是全球最大的风险
未来两年将有三十亿公民前往投票站。必须保护这些人免受人工智能生成的错误信息和虚假信息的影响。
由于许多国家预计将在未来两年内举行选举，人工智能 (AI) 驱动的错误信息和虚假信息的使用将成为最严重的全球风险。
世界经济论坛 (WEF) 发布的《2024 年全球风险报告》指出，随着公民继续担心生活成本上升，人工智能驱动的有关社会凝聚力的错误信息带来的相关风险将在今年占据主导地位。报告称：“在未来两年将举行的几个主要经济体的选举中，虚假信息与社会动荡之间的联系将成为焦点。”
在此期间，错误信息和虚假信息将成为主要的全球风险，其次是极端天气事件和社会两极分化。该报告随后对网络不安全和州际武装冲突进行了排名，将全球风险列为前五名。
错误信息和虚假信息在印度被列为最高风险，在美国排名第六，在欧盟排名第八。
世界经济论坛指出，受操纵信息的破坏能力正在迅速增强。这些能力是由日益复杂的技术的开放获取以及对信息和机构的信任不断恶化而推动的。
世界经济论坛表示，未来几年，众多参与者将利用合成内容的爆炸式增长，加剧社会分歧、意识形态暴力和政治镇压。
印度、印度尼西亚、美国和英国等地有近 30 亿公民前往投票，错误信息和虚假信息以及传播工具的广泛使用可能会破坏新政府的合法性。
世界经济论坛指出，使用具有用户友好界面和大规模人工智能模型的工具不再需要利基技能。这种访问已经导致伪造信息和“合成”内容的爆炸式增长，例如复杂的语音克隆和假冒网站。
报告称：“未来两年，合成内容将以多种方式操纵个人、损害经济和破坏社会。” “可以利用虚假信息来实现从气候活动到冲突升级等多种目标。”
世界经济论坛补充说，新的犯罪类别也将激增，例如未经同意的深度伪造色情内容或操纵股市。
该非政府组织警告说，所有这些问题都可能导致暴力抗议、仇恨犯罪、国内冲突和恐怖主义。
为了应对人工智能生成信息的风险，一些国家已经开始部署新的、不断发展的法规，针对在线信息和非法内容的宿主和创建者。
它补充说，新兴的人工智能生成监管也可能对这些努力起到补充作用，并以中国要求对人工智能生成的内容加水印为例。此类规则可能有助于识别虚假信息，包括通过人工智能幻觉内容产生的无意错误信息。
但世界经济论坛表示，总体而言，监管的速度和有效性不太可能跟上发展的步伐。
报告指出，最近的技术进步提高了伪造信息的数量、范围和效力，其流动更加难以追踪、归因和控制。致力于确保平台完整性的社交媒体公司也可能因多个重叠的活动而不堪重负。
此外，虚假信息将越来越针对其接收者个性化，并针对特定群体（例如少数族裔社区），并通过 WhatsApp 或微信等更加不透明的消息平台传播。
世界经济论坛还指出，即使对于检测机制和精通技术的个人来说，区分人工智能生成的内容和人类生成的内容也越来越困难。然而，一些国家正在尝试应对这一挑战。
新加坡创建深度伪造检测设施
新加坡本周宣布计划投资 2000 万新加坡元（1504 万美元）用于在线信任和安全研究计划，其中将包括一个负责构建遏制有害在线内容的工具的中心。该倡议由通信和信息部 (MCI) 牵头，预计将持续到 2028 年。
MCI 表示，新的在线安全先进技术中心旨在聚集来自该国在线信任和安全部门的研究人员和组织，以建立“一个充满活力的生态系统，以实现更安全的互联网”。该设施计划于 2024 年上半年推出，将专注于构建和定制工具来检测有害内容，例如深度伪造和不实声明。
该中心将寻求识别社会漏洞并制定可能的干预措施，例如标记或纠正错误信息，这可以降低在线用户对被视为有害内容的敏感度。该设施还将测试数字信任技术，例如水印和内容认证。
该中心开发的工具将提交试用和采用。
MCI 表示，与当地研究人员和技术开发人员的讨论已经在进行中，来自学术界以及公共和私营部门的 100 多名专业人士已经成为其社区网络的一部分。
该网络包括 30 名参与者，例如科学家、工程师和运营人员，他们参与将在新中心开展的工作。
全球人民应该希望此类开发努力能够产生有效的检测工具，因为如果不加以解决，错误信息可能会导致两种不同的情况。
世界经济论坛在报告中表示：“一些旨在保护言论自由和公民自由的政府和平台可能无法采取行动有效遏制虚假信息和有害内容，从而导致‘真相’的定义在社会上日益引起争议。” “国家和非国家行为者都可能利用虚假信息扩大社会观点的分歧，削弱公众对政治机构的信心，并威胁国家凝聚力和连贯性。”
另一方面，一些国家可能会选择通过控制来解决问题。
“随着真相被破坏，国内宣传和审查的风险也会随之上升，”世界经济论坛表示。 “为了应对错误和虚假信息，政府可以越来越多地被授权根据他们认为是‘真实’的信息来控制信息。与互联网、新闻和获取更广泛信息来源有关的自由已经在下降，风险进而演变成对更广泛国家的信息流进行更广泛的压制。”