OpenAI前研究员揭露“公开秘密”：人类正打造无法完全控制的AI

【OpenAI前研究员揭露“公开秘密”：人类正打造无法完全控制的AI】金色财经报道，5月13日，据《商业内幕》消息，OpenAI前研究员、现任AI未来项目负责人丹尼尔·科科塔伊洛表示，AI行业正在竞相构建各家公司自身尚未完全理解或控制的系统。他解释道，AI公司面临的核心问题是“对齐”问题，即努力确保未来的AI系统能够可靠地遵循人类的指令和价值观，即使它们在许多领域的能力已经超越人类。
他表示，研究人员目前并不完全理解先进AI模型在内部如何做出决策，这种不确定性使得很难确保未来系统真正“对齐”并稳定执行人类希望它完成的目标。“这在某种程度上可以说是一个公开的秘密，但我们还没有一个真正可行的解决方案。”他在谈到实施AI对齐时说道。“一旦超级智能被造出来，人类将不再是这个星球的主导者，至少不再是默认的主导者。”