{"text":[[{"start":8.27,"text":"人工智能界的一些人将其称为“切尔诺贝利时刻”：担心一场与AI相关的灾难性事件——从瘫痪金融体系的黑客攻击，到致命生物武器的释放——可能会让这项技术的发展戛然而止。Anthropic的Claude Mythos模型是第一个让此类风险显得如此真实的AI模型。Anthropic警告称，Mythos在查找代码缺陷方面的卓越能力，一旦落入不当之人之手，可能被用来瘫痪关键基础设施，因此该公司将其初始发布限制在少数指定合作伙伴范围内。其他有风险的模型很快将接踵而至。"}],[{"start":46,"text":"整体而言，AI作为一项改变世界的技术需要的是不会扼杀创新的轻度、灵活监管，而非繁苛管制，因为这是。但如今连教皇利奥十四世(Pope Leo XIV)都警告AI必须被“解除武装”，对具备“国家级”能力的最前沿模型尽快建立审查机制已刻不容缓。需要建立一套正式机制，以弄清这些系统究竟能做什么，并据此决定如何或者是否发布。"}],[{"start":73.28999999999999,"text":"也正因如此，更令人遗憾的是，特朗普政府上周在临近实施前临时推迟了一项行政命令。该命令本来将建立一个自愿测试机制，由总部位于美国的前沿AI公司与政府在新模型公开发布前进行为期90天的联合测试研究。美国总统唐纳德•特朗普(Donald Trump)表示，他“并不喜欢其中某些方面”，而且不希望有任何事情“妨碍”美国在与中国的AI竞争中保持领先。"}],[{"start":101.17999999999999,"text":"特朗普的白宫一向将AI“安全”政策视为对美国科技巨头不必要的掣肘。不过，据称在财政部长斯科特•贝森特(Scott Bessent)4月与华尔街高管会面、讨论Mythos模型对金融体系构成的风险后，一些官员开始认识到有必要就前沿模型采取行动。据报道，此后在其他官员及部分科技巨头游说之下，相关行政命令被推迟出台。"}],[{"start":127.22,"text":"这份命令草案存在缺陷，而且过于狭隘。它主要着眼于网络安全，而非更广泛的风险，依赖美国企业自愿配合，并将发布前测试限定在美国机构以及与政府共同选定的“部分受信任”合作伙伴。泄露草案中也未提及拜登政府专门设立、用于监测AI风险并对前沿模型进行压力测试的机构，而特朗普官员已将这一机构更名，并将其职能重新聚焦于优先推动创新。或许在所难免的是，鉴于大多数（尽管并非全部）前沿模型开发者都是美国公司，草案实际上将AI视为美国的专有技术，其安全问题也被当作美国自身的事务。"}],[{"start":170.32,"text":"不过，这份命令仍代表着重要的第一步。出于国际安全的考虑，应当尽快发布一份未在原始版本基础上被削弱的版本。这也符合白宫的利益；一场灾难性事故可能会摧毁这一行业，而政府正寄望通过这一行业来实现更高的增长，并维持对中国的优势，而该行业也已成为美国股市的支柱之一。"}],[{"start":194.26999999999998,"text":"目前来看，由美国主导的框架或许是全球所能寄望的最佳选项。但从更长远的目标看，必须建立起一个国际审查网络。尽管其他国家没有规模可与美国相比的AI公司，但它们并不缺乏AI专业知识。英国AI安全研究院(AI Security Institute)——目前唯一一家获准使用Mythos的非美国政府机构——已经发展成类似一个专业知识宝库，而这本应是其美国同行来承担的角色。在前沿AI问题上，目标必须是在事前建立起一套监测体系，确保类似切尔诺贝利的灾难性时刻永远不会发生，而不是在事故发生后被迫补救。"}]],"url":"https://audio.ftcn.net.cn/album/a_1779943274_2612.mp3"}