AI研究人员呼吁紧急监管自我改进的AI系统

【AI研究人员呼吁紧急监管自我改进的AI系统】金色财经报道，OpenAI、Anthropic、Meta和微软的研究主管正呼吁决策者调查各自公司在多大程度上实现了AI研究自动化。
在一篇周一发表的论文中，包括OpenAI首席科学家雅各布·帕乔基、Anthropic 联席创始人杰克·克拉克、微软首席科学官埃里克·霍维茨以及Meta的AI研究副总裁宋晓冬在内的研究人员写道，将AI研究自动化可能会引发一场 “智能爆炸”。这些作者表示，这种发展可能会将多年的进步压缩到几个月甚至更短的时间内，并超过人类的理解能力。该论文的作者们以个人名义撰文称，决策者应紧急要求提高透明度，以了解这些公司在多大程度上已经实现了自身模型开发的自动化。

原文链接：https://cn.wsj.com/articles/%E9%A1%B6%E5%B0%96ai%E7%A0%94%E7%A9%B6%E4%BA%BA%E5%91%98%E5%91%BC%E5%90%81%E7%B4%A7%E6%80%A5%E7%9B%91%E7%AE%A1%E8%87%AA%E6%88%91%E6%94%B9%E8%BF%9B%E7%9A%84ai%E7%B3%BB%E7%BB%9F-0f035a9e?mod=cn_hp_tech_pos1