{"text":[[{"start":10.63,"text":"本文为我们《AI变革》(The AI Shift)新闻通讯的网络版文章。高级订阅用户可在此注册，每周四即可收到该通讯。标准订阅用户可在此升级为高级订阅，或浏览所有FT新闻通讯"}],[{"start":25.15,"text":"欢迎再次来到《AI变革》(The AI Shift)，这是我们每周探讨AI对就业和工作的影响的栏目。本期我们要问的是：关于AI能力的不同证据之间为何常常看似相互矛盾，其中一个原因是否在于研究人员向这项技术提出了两类截然不同的问题。"}],[{"start":43.01,"text":"

约翰撰文

"}],[{"start":44.25,"text":"过去几年里，随着AI不断发展成熟，我们一次次遭遇一些看似前后不一、令人困惑的现象：AI能轻松通过历来公认极其困难的考试（但为什么没有在大规模取代工作岗位？）；AI能完成复杂的软件任务，而这些任务一名有经验的程序员可能需要花费数天（那对其他类型的白领工作又意味着什么？）；AI在复杂技术任务上的成功率约为50%（可50%难道不算低吗？）。"}],[{"start":73.89,"text":"我们此前已经从多个角度讨论过这些问题——例如AI自动化的是任务而非岗位、以及能力与可靠性之间存在本质差异——但这一次我想更进一步，探讨这些“错位感”究竟从何而来。一个常被忽视的事实是，许多关于AI能力的评估指标，其实从未被设计用来衡量AI是否、何时能够胜任白领工作；它们最初主要是为了评估AI是否会对人类生命与社会安全构成风险。"}],[{"start":102.95,"text":"这两类问题在本质上截然不同，在某些情况下甚至几乎是相反的标准。要让AI在可验证意义上构成重大安全威胁，它只需要在一定概率上完成那些可能被用于入侵系统或发动网络攻击的软件任务（需注意，这类攻击不仅可能造成数字层面的破坏，还可能带来重大物理后果）。如果成功率哪怕只有50%，也已经足以引发严重担忧。但如果目标是让AI替代人类劳动者，其输出必须高度稳定可靠，成功率需要接近100%，同时还要能够处理远超软件开发本身的多样化任务，包括与人类协作中的复杂不确定性，以及现实世界中的各种约束。"}],[{"start":145.57,"text":"目前最具代表性的AI能力追踪指标之一，是AI研究机构METR提出的软件时间跨度图。该指标衡量AI能够以至少50%成功率完成的任务复杂度与规模，并显示其能力正沿指数曲线快速提升，甚至在近期呈现加速趋势。然而，普林斯顿大学(Princeton University)的Stephan Rabanser、Sayash Kapoor与Arvind Narayanan提出的另一套评估框架，则引入航空与核能等行业的安全、一致性与稳健性标准，以更全面衡量AI的整体可靠性。该框架显示，在这些更严格标准下，AI进展远慢于单纯“是否有一定概率完成任务”的指标。"}],[{"start":186.51,"text":"普林斯顿团队关注的是AI失败可能带来的风险，因此他们的评估体系强调的是：我们是否可以高度确信AI几乎总能通过测试。相比之下，METR等指标源自另一种担忧：如果AI“偶尔成功”就可能带来风险，因此它们关注的是“AI是否存在一定概率能够完成任务”。但这两类完全不同的问题，其答案却经常被简化为同一个结论——“AI到底有多强？”"}],[{"start":214.87,"text":"在更广泛的AI讨论中，对软件与编程能力的过度关注也体现出类似偏差，这不仅存在于基准测试中，也反映在模型能力本身。几个月前，在彭博(Bloomberg)播客《Odd Lots》的一期节目中，METR总裁Chris Painter解释说，之所以行业常聚焦于编程任务，是因为这一领域的进展可能预示AI何时具备加速自身研发的能力，从而触发“递归自我改进”的飞轮，使技术进入潜在高风险轨道。正因如此，AI公司与研究者都高度关注软件领域，因为这里既是最大回报所在，也是最大风险所在。"}],[{"start":251.76,"text":"这些讨论并不改变一个基本事实：AI在多个领域的能力仍在持续提升——新的评估体系已扩展至法律工作、医疗诊断以及管理咨询等领域。但在讨论AI能力时，一个关键问题值得反复追问：当前使用的评估指标，是在衡量AI自动化并冲击就业的能力（强调广泛、稳定与可靠性），还是在衡量AI可能在极端条件下自我强化并带来系统性风险的能力（强调狭窄场景与边缘极限表现）？"}],[{"start":283.15,"text":"萨拉，我很好奇，在这个时代——我们既要思考一项技术是否像“核弹”一样危险，又要判断它是否只是“电子表格”级工具——你是如何理解和应对这种张力的？"}],[{"start":295.22999999999996,"text":"

萨拉撰文

"}],[{"start":296.36999999999995,"text":"约翰，你用这种方式来厘清关于AI能力的争论，非常有帮助。在这个问题上，人们有时确实仿佛生活在完全不同的现实中：一边是AI能力指数级提升、灾难风险上升的叙事，另一边则是AI连许多日常工作任务都难以稳定完成的现实体验。"}],[{"start":315.49999999999994,"text":"但正如你所说，这两种观察可以同时成立。前者并非单纯的炒作，后者也并非对现实的否认。"}],[{"start":323.8299999999999,"text":"我越来越担心AI驱动的网络攻击所带来的破坏性风险，尽管我仍然怀疑AI在短期内会大规模取代人类工作岗位。毕竟，在招聘关键岗位时，你不会选择一个偶尔表现惊艳但任务成功率只有50%的人。（本周彭博报道称，福特(Ford)正在重新雇用经验丰富的“老将”工程师，因为其自动化质检系统未能达到预期。）但如果攻击者手中拥有成功率为50%的工具，你一定会感到担忧。事实上，“五眼联盟”(Five Eyes)网络安全机构负责人近期发布的联合声明就清晰体现了这一点。"}],[{"start":362.36999999999995,"text":"这让我产生一个有些令人沮丧的问题，约翰：我们是否已经创造出一种技术，它已经足够强大到具备危险性，但在许多领域仍然不够可靠、难以真正大规模投入使用？如果是这样，那么AI实验室的经济激励是否应当从不断提升“能力上限”，转向优先提升“可靠性”（以推动企业采用）？"}],[{"start":384.23999999999995,"text":"

约翰回应

"}],[{"start":385.46999999999997,"text":"这是个非常好的问题，萨拉。可以说，目前在某种程度上，前沿AI的“危险性能力”已经领先于“可靠性实用价值”。我们仍处于实际价值落地的早期阶段，但最先进模型在网络攻防方面已经非常强大。早在一年多前，Anthropic与卡内基梅隆大学(Carnegie Mellon University)的研究人员就展示过，公开模型已经能够在模拟环境中渗透类似企业规模的系统，例如2017年Equifax数据泄露事件级别的网络攻击。"}],[{"start":415.66999999999996,"text":"此后也出现了多起AI参与甚至主导的真实攻击案例，包括Anthropic去年9月发现的一起复杂网络攻击事件，该攻击被归因于与中国政府相关的黑客组织。在该事件中，攻击者利用Anthropic自身的智能体工具几乎自动化完成了整个攻击流程，成功入侵多家大型科技公司与政府机构。"}],[{"start":438.16999999999996,"text":"与此同时，网络安全领域也出现了一些积极进展——最新模型在防御端表现突出，能够帮助企业以前所未有的规模识别并修复漏洞。不过，在整体可靠性方面仍有明显不足。一些最新模型在一致性与安全性指标上甚至低于前代产品，尽管整体准确率有所提升。但我认为，随着AI“翻车”事件的曝光增加，以及企业对AI预算的重新评估，可靠性指标可能会在未来一段时间被提升到更优先的位置。"}],[{"start":471.76,"text":"

延伸阅读

"}],[{"start":473.06,"text":"我们的同事Clara Murray报道了一项新研究，该研究发现，采用AI的公司并没有减少招聘，反而比未采用AI的公司招聘更多员工。（约翰）"}],[{"start":483.86,"text":"我很喜欢Tom Rachman尝试提出的“AI写作五原则”。（萨拉）"}],[{"start":489.35,"text":"《Lex新闻通讯》——我们的投资专栏Lex会解析本周关键主题，并由获奖作者撰写评论。点此订阅"}],[{"start":497.72,"text":"《职场进阶》(Working It)——每周三直送邮箱，助你职场更进一步。点击此处订阅"}]],"url":"https://audio.ftcn.net.cn/album/a_1783134255_2097.mp3"}