顶尖AI研究人员呼吁对具备自我改进能力的AI实施监管

【顶尖AI研究人员呼吁对具备自我改进能力的AI实施监管】金色财经报道，9月28日，据华尔街日报，OpenAI、Anthropic、Meta Platforms和微软的研究负责人正呼吁政策制定者审查各自公司在人工智能研究自动化方面的进展程度，响应了全行业对于加强监管AI技术的呼声。在周一发布的一篇论文中，包括OpenAI首席科学家Jakub Pachocki、Anthropic联合创始人Jack Clark、微软首席科学官Eric Horvitz以及Meta人工智能研究副总裁Dawn Song在内的研究人员写道，AI研究的自动化可能会引发“智能爆炸”，这种发展态势可能将原本需要数年才能取得的进展压缩至数月甚至更短时间内，从而导致技术演进速度超出人类的理解能力。论文作者以个人名义撰文指出，政策制定者应紧急要求提高透明度，以了解各公司在模型开发自动化方面已达到何种程度。