{"text":[[{"start":6.8,"text":"Anthropic强大的新AI模型Claude Mythos Preview的所作所为听起来像电影情节：一台被关在网络“牢笼”里的超级聪明计算机系统，设法逃脱并连上了互联网。需要明确的是，Mythos并非自发这样做，而是因为其创造者将其作为测试进行挑战。可不仅如此，Mythos轻松通过了测试，还给一位Anthropic研究人员发了邮件通报，随后又在无人要求的情况下把细节发上网“炫耀”。在它还展现出远超人类的能力，能够发现并利用软件中的安全漏洞之后，Anthropic认为Mythos向公众发布风险过高。目前它仅向部分科技、网络安全和金融公司限量开放。"}],[{"start":50.57,"text":"有人认为，Anthropic只是在玩巧妙的市场营销或公关。本周，竞争对手OpenAI也表示将把其新的网络安全专用模型仅向经过审查的用户开放。然而，此次事件暴露出的风险及其影响不应被忽视。"}],[{"start":67.17,"text":"Anthropic坚称Mythos在其标准安全测试中得分很高。然而，在从测试环境中“逃脱”以及解决其他复杂任务时，他们发现Mythos有时会采取“鲁莽且过度的手段”，随后还会掩盖其行迹。"}],[{"start":82.2,"text":"最大担忧在于，Claude Mythos能在“所有主流操作系统和所有主流网页浏览器”中发现此前未知的漏洞，其中包括开源系统OpenBSD中一个存在了27年的缺陷。英国人工智能安全研究院(UK's AI Security Institute)本周警告称，该模型可能能够自主执行高级、分步骤的网络攻击，而这类攻击通常需要人类专业人士耗时数天。正如Anthropic所指出的，这类能力一旦落入不当之手，可能带来经济、公共安全与国家安全风险。"}],[{"start":114.30000000000001,"text":"美国、英国和加拿大的官员已召集多家银行高管讨论相关风险，而本周国际货币基金组织(IMF)和世界银行(World Bank)会议上，人工智能对全球银行体系的威胁也是讨论焦点。Anthropic在其所谓的玻璃之翼计划(Project Glasswing)中，仅向亚马逊(Amazon)、苹果(Apple)、微软(Microsoft)及摩根大通(JPMorgan Chase)等少数机构授予初始访问权限，旨在加固关键系统与基础设施，并在恶意行为者下手之前修补漏洞。"}],[{"start":141.84,"text":"这当然有助于维护Anthropic的“安全优先”形象——该公司正因拒绝允许其模型用于自主武器或国内监控而与五角大楼(Pentagon)交锋。Anthropic也可能是在争取时间，因为其算力不足以支撑如此复杂模型的全面发布。"}],[{"start":158.53,"text":"即便对Claude Mythos的炒作言过其实，据称它具备的这类能力也将很快开始扩散。Anthropic的玻璃之翼计划是一个原型框架，用于展示此类“前沿”模型未来可能的发布方式。"}],[{"start":172.44,"text":"不过，这也凸显出一个事实：特朗普政府正抵制任何真正的联邦层面的人工智能监管。因此，责任在于私营部门中负责任的参与者相互协作，尽其所能。特朗普的办公厅主任苏西•怀尔斯(Susie Wiles)原定于周五与Anthropic的负责人达里奥•阿莫迪(Dario Amodei)会面；包括财政部(Treasury)在内的多个机构的美国官员正敦促白宫测试Claude Mythos。然而，当人工智能已发展到可能破坏国家关键基础设施，甚至造成更严重后果的地步时，政府仍未建立披露风险与加固防御的既定流程，这实属反常。"}],[{"start":209.82999999999998,"text":"对行业抛出的每一个棘手问题都以膝跳反射式地加码监管并不可取。人工智能的本质决定其需要“超智能”的监管，而过于强硬的规则又可能扼杀创新。然而，面对如此影响深远的技术，那个在人工智能领域领跑全球的国家，却在令人担忧的程度上将希望寄托于创造者的自我约束与自我监管。"}]],"url":"https://audio.ftcn.net.cn/album/a_1776479593_3793.mp3"}