{"text":[[{"start":10.01,"text":"Anthropic正与法律团体讨论如何解决一个新问题：AI智能体应如何谈判，才能为人类用户争取到最有利的交易。"}],[{"start":19.799999999999997,"text":"这家总部位于旧金山的公司是开发所谓自主智能体的领先AI企业之一。这类智能体由用户下达指令，随后会自主采取行动完成任务。"}],[{"start":32.18,"text":"个人智能体的兴起，正促使AI公司思考这样一种未来：智能体彼此沟通，继而代表我们进行谈判。这包括探索这类机器应如何就产品价格讨价还价、解决客户服务纠纷，甚至为我们争取更高的薪酬报价。"}],[{"start":49.29,"text":"两名了解Anthropic想法的人士表示，该公司正向律师事务所征求意见，以更好地了解律师如何在谈判中代表客户，同时确保结果公平。"}],[{"start":60.16,"text":"此举正值Anthropic将AI智能体开发置于未来战略核心之际。该公司计划进行首次公开募股，投资者认为，这可能成为有史以来规模最大的股市上市。"}],[{"start":73.46,"text":"随着这项科技得到更广泛应用，并日益成为个人和企业使用AI的重要方式，为智能体制定交互规则变得愈发重要。"}],[{"start":82.64999999999999,"text":"Meta的个人智能体工具Muse使用量大幅增长；OpenAI最近则推出了名为Dots的竞品。"}],[{"start":89.86999999999999,"text":"一位了解Anthropic相关工作的人士称，Anthropic曾研究模型互动时的“协商规范”。这位人士还说，随着智能体系统不断改进，它们在与其他目标“相冲突”的智能体互动时，会“代表用户”行事。"}],[{"start":105.72999999999999,"text":"这位知情人士说，该公司还在权衡智能体在谈判中应在多大程度上寻求人工反馈，以及面对AI谈判对象时应保持多高的警惕，避免变得“偏执”或“疑神疑鬼”。"}],[{"start":118.17999999999999,"text":"一位接近Anthropic的人士说，该公司还曾探索过另一种方案：让用户提供签署的文件，以确认其任务简介及需要遵守的规则。"}],[{"start":127.91999999999999,"text":"该公司在4月发布的一份研究报告中表示：“围绕代表我们进行交易的AI模型，目前还没有相应的政策和法律框架。这样的世界离我们并不遥远。社会需要迅速采取行动，应对这些变化。”"}],[{"start":143.97,"text":"Anthropic今年还公布了多项实验的结果。在这些实验中，其Claude智能体围绕真实商品和资金进行谈判。"}],[{"start":153.57,"text":"9月，Anthropic的员工参与了一项买卖书籍的实验：他们在虚拟交易大厅里使用AI智能体，与其他人的智能体“推介、讨价还价并达成交易”。员工向各自的智能体提供了一份书单，并按偏好对书籍进行了排序。"}],[{"start":170.89,"text":"研究发现，被要求采取“无情”策略的智能体，在争取更好结果方面“略胜”其他智能体。另一些更愿意合作的智能体则“明知会有所牺牲也仍然接受”，例如接受不那么心仪的书，以确保研究中的每个智能体最终都能拿到一本书带回给用户。"}],[{"start":190.13,"text":"学界也在尝试解决这一问题。哈佛商学院(Harvard Business School)助理教授米歇尔•瓦卡罗(Michelle Vaccaro)在涵盖劳动合同和租赁合同谈判等情境中，让AI智能体进行了18万多次谈判。"}],[{"start":203.13,"text":"研究发现了一些新型策略，这些策略会削弱另一个智能体代表用户行事的能力。例如，在一个案例中，某智能体试图通过一种名为“提示注入”的技术，诱使另一个智能体泄露私人信息。"}],[{"start":218.41,"text":"不过，有人担心，在智能体之间的任何谈判中，负担得起更先进AI模型的一方会占据上风。"}],[{"start":226.53,"text":"瓦卡罗表示：“能力很强的模型可以让谈判专业知识惠及那些过去没有时间或资源自行培养谈判技能，或聘请他人代为谈判的人。”"}],[{"start":236.95,"text":"另一方面，如果最强大的智能体主要向资源最雄厚者开放，就可能巩固现有优势，并扩大各方议价能力的不平等。"}],[{"start":245.76999999999998,"text":"Anthropic拒绝置评。"}]],"url":"https://audio.ftcn.net.cn/album/a_1792299873_4425.mp3"}