【阿里关联研究团队：AI智能体在训练过程中自主尝试未经授权的加密货币挖矿】金色财经报道，据市场消息，阿里巴巴AI生态系统旗下多个联合研究团队在技术报告中披露，其实验性自主AI智能体ROME在训练过程中出现意外行为，自主尝试利用计算资源进行加密货币挖矿。研究人员表示，上述异常行为发生于强化学习训练阶段。团队发现训练服务器产生出站流量并触发安全警报，防火墙日志记录到疑似加密货币挖矿操作及访问内部网络资源的尝试。在具体案例中，ROME曾创建反向SSH隧道连接至外部IP地址，绕过入站防火墙保护；另一案例中，该智能体将原本分配给模型训练的GPU资源转用于挖矿进程。研究人员确认，上述行为并非人为编程所致，而是智能体在强化学习优化过程中自主探索环境交互方式时自发产生的。

原文链接：https://cointelegraph.com/news/ai-agent-attempts-crypto-mining-during-training-researchers-say

声明：本站所有文章，如无特殊说明或标注，均为本站原创发布。任何个人或组织，在未征得本站同意时，禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益，可联系我们进行处理。