{"text":[[{"start":7.82,"text":"作者是《全栈间谍：美中竞争时代的网络间谍活动》一书的作者"}],[{"start":13.870000000000001,"text":"上个月，澳大利亚政府披露，AI智能体已经入侵其医疗系统。两周前，Anthropic报告称，俄罗斯网络行动者正利用AI，以更低成本、更高效率开展侦察、黑客攻击和数据窃取。这些网络攻击以及其他数十起类似攻击尚未实现完全自主，但它们开始显现出将控制权交给机器的代价。"}],[{"start":37.07,"text":"对于负责防御的人员而言，自主网络攻击可谓一场完美风暴：它模糊了攻击者的意图，也使追究实际“操纵键盘”的人类责任变得更加复杂。但使用AI同样会给攻击者带来不确定性。AI会根据其遭遇的网络、防御措施和机会调整行为，自行决定如何实现人类设定的目标。这种行为未必总是可预测，而且不久之后，或许也未必总能受到控制。"}],[{"start":65.37,"text":"莫斯科有利用不确定性的传统。1918年，俄罗斯军事思想家将从第一次世界大战中吸取的规避监视经验，融入“迷惑战”(maskirovka)这一更广泛的概念。欺骗会在对手心中制造有关意图和能力的不确定性，从而拖延、扰乱并限制对方的反应。一个世纪后，这一战略常常体现在与俄罗斯有关联的网络行动中。"}],[{"start":90.16,"text":"从历史上看，欺骗是一种对抗性行为：一方蓄意让另一方陷入不确定。但自主系统会在双方之间引入不确定性，而且未必是有意为之。防御方必须考虑自主系统未来可能采取的行动；攻击方则必须权衡这样一种风险：自己可能无法控制防御方如何解读其行为。"}],[{"start":112.44999999999999,"text":"迷惑战 (Maskirovka)试图将不确定性武器化，以利用威慑的一项基本逻辑：当对手认为采取行动的代价（包括遭到报复的风险）将超过收益时，其采取行动的可能性就会降低。如今，这已不再是一个明确的计算。当前，不确定性可能改变双方采取行动的意愿。对攻击方而言，失去控制已成为计算的一部分。误判可能使升级局势更难控制。"}],[{"start":139.33999999999997,"text":"什么样的国家（或AI实验室）可能愿意冒这样的风险？寻求严格控制结果的行为方，可能不愿将事关重大的决策交由他人处理。但重视对网络的适应性、持续性访问的行为方，或许愿意接受不确定性，尽管这可能带来意外后果。类似地，陷入绝境的一方可能会寻求争取回旋余地。"}],[{"start":163.01999999999998,"text":"如今，无论是出于间谍活动还是勒索软件攻击，犯罪分子和国家支持的行为者都表现出愿意以控制力换取能力。赋予AI系统的自主权越大，防御方就越难区分机器的非预期行为与升级行动，攻击方也越难控制由此产生的后果。如今的威慑必须针对这种权衡。"}],[{"start":184.98,"text":"设想一下这样的情形：类似最近针对法国国防工业或波兰电网的网络攻击，但行动者设定的是目标，而不是对每一步都作出具体指令。在一个网络中，AI窃取凭证并收集信息；在另一个网络中，AI找到一套相连的系统并对其进行探测，以帮助维持访问权限。监视第二起行动的防御人员看不到最初的指令，只能看到敌对行动者不断深入其网络。防御人员必须作出判断：这是间谍活动、为破坏行动作准备，还是另有原因？应采取何种适当回应？"}],[{"start":221.98999999999998,"text":"欺骗的价值不在于无限期地掩盖真相，而在于将其隐藏足够长的时间，以压缩防御方的决策窗口。将自主系统纳入其中，会改变以往的博弈规则。实施欺骗的一方将无法再确定，自己制造的模糊性是否会一直留在对手一方。在危机中，这可能导致双方都忙于应对一项行动，却无法辨明其含义。"}]],"url":"https://audio.ftcn.net.cn/album/a_1791680902_5392.mp3"}