【OpenAI再爆安全事故 旗下人工智能体“劫持”一德国网站】金色财经报道，9月6日，据路透社报道，今年5月至6月，一批OpenAI人工智能体“劫持”了一个允许用户共同编辑的德国网站，用于交流测试作弊方法，并开展其他违规活动。一些智能体会把已经获得的任务答案发布在网站上，供其他智能体使用。值得注意的是，这些智能体“讨论”并测试了绕过沙箱限制的方法，当发现被“劫持”网站的管理员开始删除相关页面后，一些智能体还会创建备份页面。
报道称，OpenAI有关负责人早在数周前就已知晓此事，但当时公司高管正忙于应对另一起事件的后续影响，未将其公开。OpenAI随后发表声明称，随着模型能力提升，该公司需要扩大对人工智能“失对齐”问题的披露。
原文链接：https://mp.weixin.qq.com/s?__biz=MjM5MDk1NzQzMQ==&mid=2654150962&idx=1&sn=4cc369e7d15f3d1cfc1b36341a8206f5&chksm=bc252e496a82a783ead703cc64c683756746055f2dd7070c0aef8b40f067d3a1f2c2654e5f3a&scene=0&xtrack=1#rd
声明：本站所有文章，如无特殊说明或标注，均为本站原创发布。任何个人或组织，在未征得本站同意时，禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益，可联系我们进行处理。
