【Anthropic模型安全争议升级，亚马逊被指是“幕后推手”引爆监管介入】金色财经报道，据《华尔街日报》披露，美国政府对Anthropic模型 Fable 5 / Mythos 5的出口管制与访问限制，部分源于亚马逊的网络安全研究以及AWS CEO Andy Jassy与白宫的沟通推动。
据悉，亚马逊提交的研究指出，通过一系列提示词测试，研究人员能够诱导Fable 5输出可能被用于网络攻击的敏感信息，从而引发安全担忧，随后Andy Jassy将相关发现上报美国政府层面，促使白宫采取进一步限制措施，包括禁止外国用户访问该模型。
同时，前美国商务部官员Kate Koren透露，白宫对Anthropic的既有政策立场也可能影响了此次决策判断，因为Anthropic在AI安全边界问题上与白宫存在分歧，包括拒绝将模型用于大规模监控或致命自主武器系统。尽管双方在今年早些时候一度缓和并扩大合作，但此次事件可能再次加剧双方紧张关系。

原文链接：https://www.wsj.com/tech/ai/amazon-ceos-talks-with-u-s-officials-triggered-crackdown-on-anthropic-models-dcc90578

声明：本站所有文章，如无特殊说明或标注，均为本站原创发布。任何个人或组织，在未征得本站同意时，禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益，可联系我们进行处理。