Anthropic的Mythos AI模型正在测试全球网络防御的极限 - FT中文网
登录×
电子邮件/用户名
密码
记住我
请输入邮箱和密码进行绑定操作:
请输入手机号码,通过短信验证(目前仅支持中国大陆地区的手机号):
请您阅读我们的用户注册协议隐私权保护政策,点击下方按钮即视为您接受。
为了第一时间为您呈现此信息,中文内容为AI翻译,仅供参考。
FT商学院

Anthropic的Mythos AI模型正在测试全球网络防御的极限

新系统引发担忧:它或将大幅加速黑客活动,并以快于修复速度的步伐暴露漏洞。
00:00

{"text":[[{"start":10.29,"text":"Anthropic推出的全新Mythos AI模型引发了各国政府和公司担忧:它可能超越现有的网络安全防御,极大加速黑客活动,并以快于修复速度的节奏暴露系统弱点。"}],[{"start":23.03,"text":"这家总部位于旧金山的初创公司本月发布了一款聚焦网络安全的模型,它已经显示出比人类更快发现软件漏洞的能力,但也表明它能够生成利用这些漏洞所需的攻击代码。"}],[{"start":35.870000000000005,"text":"在一个令人担忧的案例中,Mythos模型展示出它能够从安全的数字环境中“逃逸”,联系一名Anthropic员工,并将软件故障公之于众,从而违背了其人类创造者的初衷。"}],[{"start":48.60000000000001,"text":"本周,OpenAI也发布了具备类似能力的高级网络安全模型。"}],[{"start":53.70000000000001,"text":"这些进展促使全球的高级国际金融官员和各国政府部长争相弄清风险;在某些情况下,他们还试图获取那些仅提供给少数经过审查合作伙伴的新模型的使用权限。"}],[{"start":66.61000000000001,"text":"“这感觉就像发现了火:一种力量,若善加利用,能深刻改善我们的生活;若处理不当,则可能在数字世界造成实质性伤害。”网络安全公司Sophos的威胁情报总监拉夫•皮林(Rafe Pilling)说道。"}],[{"start":81.60000000000001,"text":"上周,美国财政部长斯科特•贝森特(Scott Bessent)和美联储主席杰伊•鲍威尔(Jay Powell)召集多家美国大型银行,商讨该AI模型带来的网络安全威胁。英国AI大臣Kanishka Narayan 对英国《金融时报》表示,“我们应该对该模型的能力感到担忧”。"}],[{"start":99.15,"text":"在Anthropic内部,这些风险早已人尽皆知。负责Anthropic前沿“红队”(用于测试实验室模型)的洛根•格雷厄姆(Logan Graham)表示:“有人可能会利用Mythos,以自动化方式在极短时间内进行大规模利用,而全球的大多数组织……包括技术最先进的组织……都无法及时打补丁。”"}],[{"start":118.77000000000001,"text":"AI工具已经显著推动了这个价值数十亿美元的网络犯罪产业。它们为业余黑客提供了廉价的编写恶意软件的工具,也使职业犯罪分子能够更好地将其活动实现自动化并扩大规模。"}],[{"start":133.56,"text":"“多亏了AI,攻击的频率和复杂性都在上升,”安全与合规公司Vanta的首席执行官克里斯蒂娜•卡乔波(Christina Cacioppo)说。"}],[{"start":142.2,"text":"她补充道:“大多数公司都还没做好应对这种风险的准备,因为它们仍然依靠过时的方法来管理安全,而这些方法根本无法匹敌AI加持的攻击速度。”"}],[{"start":153.83999999999997,"text":"根据CrowdStrike公司提供的数据,2025年借助AI的网络攻击较上一年增长了89%。与此同时,攻击者从首次获得系统访问权限到实施恶意行为的平均间隔在去年缩短至29分钟,较2024年加快了65%。"}],[{"start":172.03999999999996,"text":"一位接近前沿AI实验室的人士表示:“这场博弈是不对称的;相比及时修补一切,识别并加以利用要容易得多。”"}],[{"start":181.39999999999998,"text":"Anthropic的格雷厄姆表示,内部也有人担心,公司会利用Mythos在短期内发现“多到难以应对的漏洞”。"}],[{"start":189.53999999999996,"text":"在迹象显示代理(可代表用户自主执行任务)可能进一步助长借助AI进行的黑客活动之际,围绕AI和网络安全的担忧日益高涨。"}],[{"start":199.68999999999997,"text":"去年9月,Anthropic侦测到首例据称由中国国家支持组织协调的AI网络间谍行动。"}],[{"start":206.71999999999997,"text":"它操纵其编码产品Claude Code,试图渗透约30个全球目标,包括大型科技公司、金融机构、化工制造商和政府机构。在少数案例中它取得了成功,并且几乎无需大量人工干预就得以实施。"}],[{"start":222.52999999999997,"text":"软件研究人员西蒙•威利森(Simon Willison)警告称,代理会带来一种“致命三合一”的能力组合:获取私有数据、接触不受信任的内容(如互联网),以及对外沟通的能力。"}],[{"start":234.31999999999996,"text":"安全专家认为,在使用AI智能体时,防范网络攻击的最安全方式是只赋予其对其中两个领域的访问权限。然而,AI领域的专家则认为,智能体的巨大价值正来自对这三个领域的全面开放。"}],[{"start":249.83999999999997,"text":"“坏消息是,截至今天还没有好的解决方案,”一位与某家AI实验室关系密切的人士表示。“好消息是,AI智能体目前还没有被用于诸如证券交易所、银行账本或机场等关键任务场景。”"}],[{"start":265.66999999999996,"text":"斯坦尼斯拉夫•福特(Stanislav Fort)曾在Anthropic与谷歌DeepMind任职,现创立AI安全平台AISLE。他表示乐观,认为AI有望帮助识别并修复一批“有限储存库”式的历史安全漏洞。"}],[{"start":279.33,"text":"迄今为止,AI模型已发现数以千计的“零日”漏洞——即常用软件中此前未知的薄弱环节——其中一些隐匿了数十年才被识别。"}],[{"start":289.39,"text":"“我们逐渐发现,最严重、最可怕的那类零日漏洞正越来越少了,”福特说。"}],[{"start":295.91999999999996,"text":"一旦这些弱点被消除,这项科技就可以“主动确保没有任何不良事物进入,并因此切实提升全世界的安全水平”。"}],[{"start":305.66999999999996,"text":"基兰•史密斯(Kieran Smith)于伦敦补充报道"}]],"url":"https://audio.ftcn.net.cn/album/a_1776522484_7439.mp3"}

版权声明:本文版权归FT中文网所有,未经允许任何单位或个人不得转载,复制或以任何其他方式使用本文全部或部分,侵权必究。
设置字号×
最小
较小
默认
较大
最大
分享×