【OpenAI解雇3名安全研究员，涉Signal聊天与模型信息泄露调查】金色财经报道，10月23日，据《华尔街日报》报道，OpenAI解雇了3名安全研究员。公司内部安全人员此前发现，他们与外部AI安全研究人员存在使用Signal进行的消失消息聊天，并怀疑其中涉及OpenAI内部模型设计等敏感信息。此次调查据称始于9月一篇有关OpenAI最新模型Astra的报道。该报道提到，Astra采用一种能够提升模型能力、但减少可被人类观察到的推理过程的新设计。OpenAI将相关报道视为可能涉及内部模型设计泄露，并开始追查消息来源。报道同时指出，这场争议也涉及AI模型“可监控性”问题。部分安全研究人员担心，如果未来模型能够在不留下完整推理痕迹的情况下执行任务，研究人员可能只能观察AI Agent的行为结果，而更难判断其决策原因。OpenAI调查人员还将曾协助METR分析7月Hugging Face黑客事件日志的Ryan Greenblatt列为涉嫌泄密者之一，Greenblatt否认相关指控。

原文链接：https://www.wsj.com/tech/ai/the-signal-chats-that-cost-openai-researchers-their-jobs-594c5853

声明：本站所有文章，如无特殊说明或标注，均为本站原创发布。任何个人或组织，在未征得本站同意时，禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益，可联系我们进行处理。