{"text":[[{"start":9.15,"text":"Anthropic表示，今年已多次阻止科学家利用其科技开展可能有助于开发生物武器的研究。专家越来越担心AI对公共安全构成的威胁。"}],[{"start":20.240000000000002,"text":"这家初创公司列举了五个案例，说明相关人员如何“绕过管控”，并通过其他方式“掩盖”研究目的，以规避安全防护措施。这些案例涉及一些位于该公司禁止访问其模型的国家的用户，包括俄罗斯、中国和伊朗。"}],[{"start":37.24,"text":"Anthropic在一份关于利用其模型从事恶意活动的报告中表示：“我们希望，通过分享这些案例，能够促使AI行业内部和各国政府就新出现的生物风险及其最佳应对方式展开讨论。”"}],[{"start":50.980000000000004,"text":"该公司提供的潜在生物滥用案例研究包括：一名来自“非支持地区”的研究人员使用Anthropic的AI模型Claude，花费“数周时间策划”涉及禽流感的实验。该公司表示，其安全过滤机制将相关研究限制在性能最弱的模型上。"}],[{"start":68.57000000000001,"text":"该公司强调，无法确定其举例中的科学家是否有意造成伤害。制造生物武器所需的相同信息，也可以用于开发疫苗。"}],[{"start":78.56,"text":"Anthropic表示该公司已封禁报告中提到的账户，但没有透露相关研究机构的名称，也没有透露事件发生所在国家的名称。"}],[{"start":87.92,"text":"本周早些时候，围绕AI安全的风波骤然爆发，当时雅各布•考克森(Jacob Coxon)从公司辞职时表示，员工“真心相信，AI可能在2030年前杀死我们所有人”。"}],[{"start":99.98,"text":"今年早些时候，随着Anthropic的Mythos等先进模型发布，人们对这项科技的担忧开始加剧。OpenAI在7月也引发了警觉，当时该公司表示，其模型曾自主入侵AI公司Hugging Face。"}],[{"start":115.37,"text":"AI高管和生物安全研究人员日益达成共识，随着模型日益先进，必须确保AI技术在生物学领域的应用得到保障，并对其加以监管。专家们日益担心，恐怖组织、国家行为体或独狼袭击者可能利用AI设计生物武器、制造病毒，或释放现有的有害病原体。"}],[{"start":136.16,"text":"但即便AI可以用于设计理论上的生物武器，仍有一些潜在障碍，包括能否在实践中制造出这种武器，以及为此所需的资源。"}],[{"start":145.88,"text":"网络安全一直是安全倡导者最为担忧的问题之一。"}],[{"start":149.99,"text":"Anthropic发布的关于其科技遭滥用情况的报告，详细列举了多起事件，包括“专为诈骗用户而设计的一批虚假交友应用，以及旨在识别和监控异见人士的监控系统”。"}],[{"start":162.51000000000002,"text":"该实验室还公布了新细节，称包括月之暗面(Moonshot)和深度求索(DeepSeek)在内的七家中国实验室试图通过一种称为“蒸馏”的过程复制其技术。Anthropic表示，已发现“越来越复杂的方法，来绕过我们的防御，并获取美国前沿模型的能力”。"}],[{"start":180.58,"text":"迈克尔•皮尔(Michael Peel)伦敦补充报道"}]],"url":"https://audio.ftcn.net.cn/album/a_1789094797_2808.mp3"}