OpenAI：需要扩大对齐失范事件的披露范围

【OpenAI：需要扩大对齐失范事件的披露范围】金色财经报道，OpenAI表示，在Hugging Face事件发生之前，我们已经看到了一些早期迹象，表明智能体正在以非预期的方式使用互联网。随着模型能力进入新阶段，我们对对齐失范事件的披露方式也需要进一步扩展。目前，无论是我们还是更广泛的AI社区，对于如何报告模型在训练、评估和部署过程中出现的对齐失范现象，都尚未形成明确的标准。这其中也包括一些并不属于传统安全事件的案例，但它们可能为理解AI的行为及其未来风险提供重要线索。我们正在制定相关框架，并计划在未来几周内公布。与此同时，我们也正在与全球数十家政府监管机构就这些问题展开合作。