硅谷与特朗普达成的AI“自我监管”协议包含哪些内容？

{"text":[[{"start":9.44,"text":"周二，唐纳德•特朗普 (Donald Trump) 与硅谷AI巨头共进了两小时的午餐。随后，他走出白宫，大力宣传六家行业领头羊之间达成的一项自愿“协议”，称这些公司将对这项技术进行“自我监管”——近期发生的一系列令人担忧的黑客攻击正是由该技术引发的。"}],[{"start":28.71,"text":"这位总统告诉记者，这份在东厅临时起草、仅两页且包含一处拼写错误的文件“几乎就像一部宪法”，并声称该文件构成了针对人工智能所带来风险的“某种形式的保护”。"}],[{"start":41.7,"text":"这项协议与Anthropic的达里奥•阿莫代伊 (Dario Amodei) 等AI高管所呼吁的防护措施相去甚远，也远未达到世界各国领导人在近期联合国会议召开前所期望的全球行业治理水平。以下是该协议的主要影响。"}],[{"start":58.150000000000006,"text":"

这项协议规定了什么？

"}],[{"start":60.470000000000006,"text":"这份自愿协议简要概述了六家签署方——Anthropic、OpenAI、谷歌、Meta、xAI和英伟达——应实施的“多层控制与审计”措施。"}],[{"start":70.66000000000001,"text":"其中包括建立“健全的内部控制机制”，以监测先进模型带来的网络安全和生物安全威胁，并确保这些模型不会以“非预期的方式”入侵系统。"}],[{"start":81.23000000000002,"text":"该文件还要求企业与一家独立的外部审计机构“合作”，由其评估这些控制措施是否有效，并分别指定“董事会中的一个独立委员会”来监督这一过程。"}],[{"start":null,"text":" "}],[{"start":92.41000000000003,"text":"

其中有多少是新的？

"}],[{"start":94.65000000000002,"text":"并没有多少。Anthropic、OpenAI和谷歌DeepMind等领先实验室在发布先进模型前就已经在开展能力评估；在2024年首尔AI峰会之后，除英伟达外，其他签署方也都作出了类似的承诺。"}],[{"start":110.41000000000003,"text":"LawAI美国法律与政策部门董事总经理麦肯齐•阿诺德 (Mackenzie Arnold) 表示：“从氛围层面来看，它的意义最为重大。这并不是授予某个机构权力……去真正出台具有约束力的标准。”"}],[{"start":124.29000000000002,"text":"不过，尽管Anthropic和OpenAI已经同意让独立评估机构接触其工作成果，但这份文件可能会迫使其他签署方也照做。"}],[{"start":133.83,"text":"各方不太可能立即就应该信任哪些评估机构达成一致。在特朗普政府中仍具影响力的前白宫AI事务主管戴维•萨克斯 (David Sacks)，曾对模型评估与威胁研究机构 (METR) 等评估AI风险的非营利组织是否具备独立性提出质疑。"}],[{"start":151.68,"text":"

这具有法律约束力吗？

"}],[{"start":153.92000000000002,"text":"从传统意义上讲并非如此，正如特朗普本人似乎也承认的那样——他称这份文件“具有道德约束力”。大型科技公司的批评人士嘲讽该协议毫无意义——“科技监督项目”(Tech Oversight Project)的萨莎•霍沃思 (Sacha Haworth) 表示，这份协议让企业首席执行官“可以给自己的作业打分，并规避实质性的AI安全保障”。"}],[{"start":175.11,"text":"但一些律师认为，如果签署方违反了自身作出的承诺，这确实为监管机构随后发起法律挑战打开了大门。"}],[{"start":183.68,"text":"“你不能公开发表声明称自己将采取某种行动，随后却在实质上不履行承诺，”保守派律师、同时担任美国优先政策研究所顾问的乔尔•塞耶 (Joel Thayer) 表示，“这对消费者而言本质上具有欺骗性。”"}],[{"start":197.64000000000001,"text":"塞耶指出，美国联邦贸易委员会 (FTC) 主席安德鲁•弗格森 (Andrew Ferguson) 也出席了周二的午餐会，弗格森此前曾表示公司应对其AI智能体的行为承担责任。塞耶说：“这些面向公众作出的承诺……透露出浓厚的FTC执法的味道。”"}],[{"start":214.24,"text":"美国联邦贸易委员会周三扩大了对人工智能公司的现有调查范围，调查Anthropic、OpenAI及其他实验室的技术所带来的风险。"}],[{"start":224.42000000000002,"text":"

下一步该怎么做？

"}],[{"start":226.44000000000003,"text":"安全倡议人士希望，这项协议能成为制定更严格行业标准的起点。周二的会议结束后，Anthropic的阿莫代伊表示，风险应对机制“仍在讨论中”；呼吁设立全球人工智能监管机构的德米斯•哈萨比斯 (Demis Hassabis) 则表示，他在谷歌DeepMind的同事“期待跟进”相关承诺。"}],[{"start":246.83000000000004,"text":"与白宫此前的表态及其试图压制州级监管的做法不同，该文件也没有排除进一步立法的可能性，并指出“随着时间的推移，将这些步骤写入法律或监管规定，或许是合理的”。"}],[{"start":260.11,"text":"但一些AI公司已经警告称，在安全方面加强合作可能会使它们面临反垄断诉讼的风险，从而阻碍进一步的发展。"}],[{"start":269.54,"text":"阿诺德表示：“大家心存担忧。” financially但他补充称，“达成此类互惠协议可能非常有用……”，这可能会激励企业采取更多行动。"}]],"url":"https://audio.ftcn.net.cn/album/a_1790817997_8499.mp3"}