【摩根士丹利:AI突破沙盒是最被低估的风险】金色财经报道,11月19日,据彭博社报道,摩根士丹利全球宏观策略主管Matthew Hornbach在新加坡受访称,AI可带来指数级效益,但安全防护被突破造成的损害是当前市场最被低估的风险;最担忧的情景是某地一个前沿生成式AI模型突破所在沙盒,以某种方式损害全球经济的某一部分。他称,模型虽被限制在沙盒内,但外界存在开放权重模型,人们普遍未准备好应对无法预测的事件。报道提及,OpenAI曾于7月内部评估中发生先进模型绕过隔离措施、访问Hugging Face部分系统的事件,其后加强隔离与访问控制;Anthropic在IPO文件中将“对人类造成灾难性或生存性风险”列为可能情形;摩根大通CEO Jamie Dimon称不会允许外部AI智能体随意接入其系统。

声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。