立法者要求 OpenAI 在举报人投诉后分享安全更新

在 X 主题中，这家人工智能巨头解释了“我们如何优先考虑工作中的安全”。这是新内容。

安全是生成人工智能模型快速增长的最大担忧之一。 《华盛顿邮报》获得的一份由举报人提交的长达七页的关于 OpenAI 安全实践的投诉只会加剧这些担忧。因此，OpenAI 现在与公众分享其安全举措的最新信息。

周二，OpenAI 在 X（前身为 Twitter）上分享了有关“我们如何优先考虑工作安全”的最新动态。该主题包括近期举措的亮点和当前项目的更新。

确保人工智能能够造福每个人，首先要构建有用且安全的人工智能。我们想分享一些有关我们如何优先考虑工作安全的最新信息。

OpenAI 首先强调了其准备框架，该框架于 12 月首次发布测试版。该框架包括 OpenAI 为确保其前沿人工智能模型的安全而采取的各种预防措施，例如根据不同指标提供模型记分卡，以及如果新模型超过“中等”风险阈值则不发布新模型。

与此同时，OpenAI 表示，它正在积极开发“级别”，以帮助 OpenAI 和利益相关者对人工智能进展进行分类和跟踪，该公司将“很快”分享更多有关这些进展的细节。

OpenAI 还提供了其安全与安保委员会的最新信息，该委员会最初由 OpenAI 董事会于 5 月成立，旨在为其运营增加另一层制衡机制。由技术和政策专家组成的委员会正在进行审查。一旦得出结论，OpenAI 将分享其计划采取的进一步措施。

最后，OpenAI 引起了人们对其举报人政策的关注，该公司表示，该政策“保护员工进行受保护的披露的权利”。为了促进有关该技术的对话，该公司还改变了员工的离职流程，删除了非贬义条款。

就在美国立法者要求 OpenAI 在举报人报告后分享有关其安全实践的数据的一天后，OpenAI 分享了这些更新。该报告的一些要点包括 OpenAI 阻止员工就技术风险向有关当局发出警报，并要求员工放弃获得举报人补偿的联邦权利，X 帖子都提到了这两个问题。