网站搜索

马斯克、沃兹尼亚克和其他科技领袖签署请愿书，要求停止人工智能的进一步发展

一份拥有 1000 多个签名的请愿书呼吁暂停大型人工智能实验。原因如下。

人们对人工智能的兴趣达到了前所未有的水平，几乎每天都有新的人工智能应用程序向公众开放。 OpenAI 推出 ChatGPT 仅仅四个月后，就推出了其最强大的大型语言模型 GPT-4。

一份新的请愿书试图阻止这些快速而大规模的发展，并呼吁人工智能实验室暂停（至少六个月）对比 GPT-4 更强大的人工智能系统进行训练。

该请愿书由行业专家发起，旨在保护社会免受具有人类竞争情报的人工智能系统可能引发的“对社会和人类的深刻风险”。

具体来说，请愿书针对的是部署这些先进人工智能模型时缺乏规划和管理，请愿书称之为“失控的竞赛”，其创建者无法“理解、预测、或可靠地控制。”

根据公开信，请愿书建议的中断将使人工智能实验室和独立专家有时间为先进的人工智能设计开发安全协议，使人工智能系统更加准确、更安全、可解释、值得信赖和忠诚。

如果主要参与者不想迅速遵守暂停协议，请愿书建议政府应介入并发布暂停令。

人类克隆和优生学等过去“对社会具有潜在灾难性影响”的技术此前已被政府机构暂停，请愿书称这一事件也应同样谨慎对待。

请愿书已获得 1,100 多个签名，其中包括著名的行业人物，如特斯拉首席执行官埃隆·马斯克、苹果联合创始人史蒂夫·沃兹尼亚克和负责发明稳定扩散的 Stability AI 首席执行官埃马德·莫斯塔克。

马斯克最初是 OpenAI 2015 年成立时的投资者，他对人工智能的快速发展，尤其是微软之前的参与表达了担忧。

相关文章