{"text":[[{"start":11.84,"text":"Anthropic已向外部评估人员授予“类似员工拥有的访问权限”，以评估其模型的风险。此举兑现了该公司加强安全防护的承诺，此前人们担心这项技术可能失控并造成灾难性后果。"}],[{"start":26.59,"text":"METR是一家非营利机构，曾与OpenAI、Anthropic、谷歌(Google)和Meta等领先实验室合作。如今，该机构有一支团队进驻Claude开发商的办公室，可使用其硬件和内部系统。"}],[{"start":40.69,"text":"让第三方评估机构发挥更大的作用，是各大实验室提出的一项主要具体措施。此举旨在回应外界日益加剧的担忧，即能力更强的人工智能系统可能会对经济、网络安全以及全人类构成重大威胁。"}],[{"start":56.53,"text":"9月，Anthropic首席执行官达里奥•阿莫代伊(Dario Amodei)与宿敌萨姆•奥尔特曼(Sam Altman)和埃隆•马斯克(Elon Musk)罕见达成共识：OpenAI和太空探索技术公司(SpaceX)的负责人都支持他的提议，即让外部审计人员进驻领先的AI实验室。"}],[{"start":72.11,"text":"周四的公告标志着落实这些承诺迈出了第一步。奥尔特曼曾称阿莫代伊的提议是个好主意，但OpenAI尚未公布引入评估人员的计划。"}],[{"start":82.75,"text":"Anthropic周四表示：“随着模型能力不断增强，它们需要更严格的防护措施和更具挑战性的风险评估。我们希望对所作决策承担公开责任，但无法公开分享所有与安全工作相关的信息。”"}],[{"start":98.6,"text":"反对Anthropic采用评估方这一提议的人士认为，这种安排可能引发利益冲突，并以会计行业的问题为例指出需要政府加强监管。"}],[{"start":108.47,"text":"Anthropic辩称，公开分享信息可能让恶意行为者或竞争对手获益。该公司还补充说，其评估人员的工作方式将类似于银行监管：监管机构会派驻常驻检查员，在规模最大的银行内部工作。"}],[{"start":123.96,"text":"该公司表示：“如果银行的冒险行为可能危及公众，第三方会提前发现。”"}],[{"start":130.07,"text":"Anthropic还面临压力，需要向投资者保证，安全问题不会给其首次公开募股蒙上阴影。该公司预计今年以超过2万亿美元的估值上市。本周，Anthropic在投资者说明会上用很大篇幅介绍了其安全实践。"}],[{"start":147.04,"text":"METR是调查Hugging Face遭到失控的OpenAI模型入侵事件的机构之一。该机构审查了数千份日志，并接收了公司笔记本电脑。"}],[{"start":157.98,"text":"Anthropic如今已接收6名METR员工，为他们配发了公司硬件设备、提供了办公空间，并开放了“内部工具和系统的访问权限，这与我们自己的风险评估团队所拥有的权限大致相当”。"}],[{"start":171.83999999999997,"text":"该实验室表示，已鼓励员工像向一位从事安全工作的同事那样，向评估人员分享信息。"}],[{"start":179.26999999999998,"text":"Anthropic没有为这项安排向METR支付费用。该研究机构不接受人工智能公司或其员工的捐款。其经费来自个人、慈善组织以及政府机构的捐赠，其中包括英国人工智能安全研究院(AI Security Institute)。"}],[{"start":195.18999999999997,"text":"评估人员将公布分析结果，Anthropic无权否决发布。但Anthropic可以要求他们删去属于特定类别的信息，例如客户数据、受律师-客户保密特权保护的细节，或有关模型架构的信息。"}],[{"start":209.70999999999998,"text":"Anthropic还补充说，该公司仍在与埃森哲(Accenture)合作。埃森哲上个月成为其安全测试合作伙伴，双方各自承诺至少投入10亿美元建立新的安全防护措施。"}],[{"start":222.07,"text":"另一家第三方测试机构是SecureBio，负责为该公司评估化学武器和生物武器风险。"}],[{"start":228.92,"text":"Anthropic表示：“我们正在自愿引入评估人员进驻公司，并认为每家前沿人工智能公司都应这样做。”"}]],"url":"https://audio.ftcn.net.cn/album/a_1792119173_9571.mp3"}