【Anthropic据悉探讨AI智能体谈判规则，正寻求法律界建议】金色财经报道，10月18日，据英国金融时报，Anthropic正与法律界人士展开磋商，探讨如何解决一个新问题：AI智能体应如何通过谈判，为人类用户争取最有利的交易条件。随着个人AI智能体兴起，AI公司开始设想这样一种未来：不同智能体之间能够相互沟通，并代表用户展开谈判。两名了解Anthropic内部想法的人士表示，该公司正向律师事务所寻求建议，以更好地了解律师如何在谈判中代表客户利益，同时兼顾公平的谈判结果。消息人士表示，该公司一直在研究AI模型相互交互时应遵循的“谈判规范”。随着智能体系统能力不断提升，它们将在“代表用户”行事的同时，遇到其他“目标存在冲突”的智能体。Anthropic还在权衡智能体应在谈判过程中多大程度上征求人类反馈，以及智能体应对其他AI智能体保持多高程度的警惕，同时避免变得“偏执”或陷入“阴谋论式思维”。(金十)
声明：本站所有文章，如无特殊说明或标注，均为本站原创发布。任何个人或组织，在未征得本站同意时，禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益，可联系我们进行处理。
