a16z的马丁•卡萨多：打造人工智能模型并没那么难

{"text":[[{"start":10.26,"text":"马丁•卡萨多(Martin Casado)是一位技术专家兼投资人，曾支持过硅谷一些最知名的初创企业。他在安德里森•霍洛维茨(Andreessen Horowitz，亦称a16z)领导一支人工智能投资团队，这家公司是全球最知名、也最敢言的风险投资机构之一。"}],[{"start":29.64,"text":"在职业生涯早期，卡萨多曾在劳伦斯利弗莫尔国家实验室(Lawrence Livermore National Laboratory)从事核武器模拟工作。2001年9月11日恐怖袭击后，他转而为情报界开展网络和网络安全研究。随后，他在斯坦福大学(Stanford University)攻读博士期间，帮助开创了软件定义网络，使计算机之间的数据传输可以通过软件而非硬件实现。之后，他创办了自己的初创公司尼西拉网络公司(Nicira Networks)，并以逾10亿美元的价格出售。"}],[{"start":60.06,"text":"在与英国《金融时报》风险投资记者乔治•哈蒙德(George Hammond)的这场对话中，他认为，人工智能近期的发展是一次工业革命级别的事件，但也警告称，行业内大玩家筹集“廉价资金”的能力是有时限的，价值将迅速向下游转移。"}],[{"start":null,"text":"

---

"}],[{"start":76.25,"text":"乔治•哈蒙德：我们眼下正在经历的这轮人工智能周期，和你以前见过的任何事物相似吗？"}],[{"start":84.37,"text":"马丁•卡萨多：有时候我觉得它就像互联网。互联网改变了社会秩序，因为无论相隔多远，你都可以和任何人交流。AI让我想起这一点。它会产生文化影响，会产生社会影响，会改变人类与某种事物沟通和互动的含义。"}],[{"start":103.75,"text":"有时候我又觉得，它更像电力，甚至像工业革命，因为它似乎也彻底改变了创新的经济动力，比如就业市场，比如融资市场。互联网早期有大量需求，但我们不知道该如何将其变现。而在这里，感觉需求是无限的，而且我们几乎是立刻就在变现。"}],[{"start":123.37,"text":"工业革命让世界摆脱了贫困，是一种伟大的均衡力量。它解决了人类面临的许多严重问题。人工智能也完全可能做到同样的事，只不过……方式会更具戏剧性。"}],[{"start":137.68,"text":"乔治•哈蒙德：而且是在大幅压缩的时间里？工业革命是几十年间逐步展开的。这件事却在几年内发生。这样的速度会带来什么后果？"}],[{"start":151.34,"text":"马丁•卡萨多：嗯，这正是我们不知道的，对吧？这项技术主要是为了提高人的生产率吗？我们能在多大程度上用AI取代人类？AI在多大程度上根本不需要人类？它们会不会变成能够自主创办企业的独立实体？我认为我们目前对此毫无证据，但这毕竟是一项颠覆性技术。谁知道会发生什么？"}],[{"start":178.97,"text":"乔治•哈蒙德：我们现在已经看到了一些生产率提升的证据。是什么会推动这种趋势继续下去？未来几年它会呈现什么样子？"}],[{"start":190.43,"text":"马丁•卡萨多： 眼下最明显有效的就是代码。假设大约有3000万名职业软件开发者，他们平均年薪10万美元。这就是一个3万亿美元的市场。我的意思是，我们现在才刚刚进入这个庞大市场非常非常早期的阶段。"}],[{"start":209.47,"text":"如今，一个律师可以处理更多案件，医疗保健的准确性也会提高。我们知道，呼叫中心这一类应用是有效的。我们知道，客户支持是有效的。但还有很长一串事情，我们并不完全确定。"}],[{"start":225.57,"text":"也可能是，AI让我们感觉自己比实际更高效。这是一种“幻觉式生产率”。你有多少次和ChatGPT对话，会觉得“这个主意真棒”。然后你一纠正它，它就会……"}],[{"start":240.62,"text":"乔治•哈蒙德：“这提醒得太好了！”"}],[{"start":243.97,"text":"马丁•卡萨多： 没错。 [AI]带给我们的高效感和它们实际带来的生产率之间，的确存在某种脱节，但毫无疑问，[聊天机器人]确实在创造价值。"}],[{"start":256.19,"text":"但我认为，等这一切尘埃落定，这里真正重大的创新是：我们终于能够投入巨额资金去解决某一类问题，而这是我们过去做不到的。"}],[{"start":265.89,"text":"在我看来，AI能不能解决问题，现在已经是一个资本问题，而不是技术问题。如果未来回头看，问“这里最大的变化是什么”，我认为就是我们把一件事从工程问题变成了资本问题。对我来说，这就是工业革命级别的变化。因为它改变了创新的本质。"}],[{"start":286.78,"text":"乔治•哈蒙德：AI显然在总体上非常有效，但它在我们真正需要的所有方面都还没有达到足够高的精确度，因此还无法承担知识型工作，也无法超越那些狭窄的应用场景。我们下一步怎么走？"}],[{"start":301.9,"text":"马丁•卡萨多：预训练，也就是砸进去一大笔钱来训练一个基础模型，这个阶段基本已经结束了。下一阶段是RL[强化学习]，也就是开始解决那些你拥有奖励信号的具体问题。我们现在正处在这个阶段。"}],[{"start":320.10999999999996,"text":"所以我觉得，问题不太在于：它能不能做好某个垂直领域？我认为在大多数情况下答案是能。问题在于：这样做是否划算？"}],[{"start":331.37999999999994,"text":"我觉得这个行业现在所处的位置是这样的：计算机发展到某个阶段后，你需要用计算机来制造计算机，也就是出现了自催化效应。现在我们正处在一个节点，人们开始用AI来创造AI。反馈循环将从这里开始。这往往会显著降低你所做事情的成本。"}],[{"start":null,"text":" "}],[{"start":352.3399999999999,"text":"乔治•哈蒙德：说到资本问题，大型AI实验室融资规模之大、收入增长之快，都超过了此前任何一代初创企业。但它们仍在亏钱。这个问题怎么解决？"}],[{"start":366.13999999999993,"text":"马丁•卡萨多：是的，说实话，这才是最大的问题。如果你拿一家前沿实验室的经济状况和它上一代模型的训练轮次相比，它们看起来很棒。但如果你看当前这一轮训练的经济性，它们看起来就很糟糕。"}],[{"start":382.80999999999995,"text":"而你觉得一个模型能保持相关性的时间有多长？ 三到六个月。然后你就得开始下一轮训练，这些模型根本没有任何持久性。所以，你看到的是有史以来贬值最快的资产，以及有史以来增长最快的公司。而且没有人能回答，这一切最终会收敛到哪里。"}],[{"start":404.94999999999993,"text":"乔治•哈蒙德：那么，作为AI公司的投资者，你怎么在这种局面中找到平衡？"}],[{"start":412.37999999999994,"text":"马丁•卡萨多：我们必须对每一种可能的结果都有敞口。一种情况是，大型实验室拿走80%的价值。所以你必须对大型实验室有敞口。另一种情况是，市场终归会对这种烧钱行为进行理性调整。实验室将无法再以这么低的成本筹到这么多钱，届时价值就会迅速向下游转移到应用和小模型上。所以我们也必须对这一端有敞口。"}],[{"start":442.25999999999993,"text":"没有人能预测未来，所以你必须对任何一种可能路径都保留足够的敞口。"}],[{"start":448.43999999999994,"text":"最重要的是，[AI实验室]能否筹集到比任何依赖它们的公司都更多的资本？如果Anthropic筹到300亿美元，整个下游生态系统加起来都筹不到这么多钱。我们谈论的资金规模疯狂得难以想象。 但另一方面，模型的持久性又如此之低，我看不出它们怎么可能长期维持这种局面。所以我认为，问题更多在于“它们还能继续吸纳这些资本多久？”在我看来，这才是真正的问题。等这件事发生之后，世界将会非常不同。"}],[{"start":484.98999999999995,"text":"乔治•哈蒙德：那么，当我们走到那一步时，世界会是什么样子？"}],[{"start":490.41999999999996,"text":"马丁•卡萨多：在某个时点上——我不知道那是两年后还是六年后——市场会对此作出理性调整，并说，这里还有其他机会，而你们现在是在补贴所有这些东西。所以，廉价资金就会开始放缓。"}],[{"start":505.81999999999994,"text":"到那时，大型模型实验室将成为品牌垄断者，它们将在企业市场中掌控大量账户，成为根深蒂固的既有巨头。但我认为，也正是在那个时候，它们的增长会显著放缓，价值会向下一层沉淀，也就是那些针对特定垂直领域、特定应用、小模型等等去发力的人手中。"}],[{"start":526.2299999999999,"text":"乔治•哈蒙德：接下来有哪些模型开发环节，或者全新的架构，可能会出现，从而支撑这股热潮持续下去？"}],[{"start":535.06,"text":"马丁•卡萨多：我只是觉得，我们已经有了足够通用的工具去构建下一样东西。而我们现在仍在学习如何使用这些工具。我认为我们已经越过了那个世界必将改变的事件视界。"}],[{"start":550.15,"text":"如果我有一个大胆判断，那就是：我做这件事越多，就越觉得构建这些模型其实没那么难。我认为我们之所以会说“哇，这太惊人了”，是因为这原本是一个相当小众的领域，从事这件事的人并不多。"}],[{"start":null,"text":" "}],[{"start":566.05,"text":"我不断看到一些“非标准”团队——也就是说，他们没有传统背景，没有博士学位，也没上过斯坦福——拿着资金做出了很棒的模型。事情真的就像这样：你能拿到数据吗？你能拿到算力吗？这改变了创新的本质；创新不再关乎巧思，而只是关乎资源的聚集。"}],[{"start":588.3599999999999,"text":"乔治•哈蒙德：你投资了由伊利亚•苏茨克维(Ilya Sutskever)创办的[Safe Superintelligence]以及李飞飞创办的[World Labs]等公司——他们都是这个领域最负盛名的研究者之一。显然，在某种层面上你相信，创新来自非常顶尖的研究团队。那他们所做的事，与刚才你描述的那种有点靠“蛮力推进”的方式，到底有什么不同？"}],[{"start":612.9199999999998,"text":"马丁•卡萨多：嗯，现实层面上有一个务实事实：最有名的人能筹到最多资本。所以即便他们不是最有巧思的人，他们也能筹到最多资本。还有一种情况是，最有名的人能招到最顶尖的20个人。"}],[{"start":630.1699999999998,"text":"我确实觉得，现在还足够早，所以你需要那些真正懂这件事的人。你现在确实必须有专家在场。[这]并不意味着你更聪明或者不聪明。你只是恰好当时就在那个房间里。"}],[{"start":645.6199999999999,"text":"比如说，恰好接近OpenAI的那些人，本来就只是随机聚在一起的一小撮人，对吧？现在也许真正困难的地方，在于获取知识的机会，因为一切还太早。"}],[{"start":657.8899999999999,"text":"这些人确实拥有这种接触机会：米拉•穆拉蒂(Mira Murati)当时就在那个房间里。伊利亚当时就在那个房间里。李飞飞在很多方面奠定了深度学习的基础。所以他们有人脉，也有接触知识的渠道。但随着时间推移，我们所有人都会获得这些。而且很有可能，这些东西并没有那么难，最终它真的就会变成一个资本问题。"}],[{"start":683.8399999999999,"text":"我这么说多少带一点调侃，我并不是想把话说绝，但这几乎与所有人的看法相反。大家都觉得，“这是那些超级聪明的天才做的事，只有他们能做到。”但实际上也可能恰恰不是这样：这些东西可能相当直接。它并没有演化得多复杂。只要你能把钱聚起来，很多人都能做。"}],[{"start":706.79,"text":"乔治•哈蒙德：你写过美国与中国之间的AI竞赛。如果这真的是一场资本游戏，需要私人企业以及政府共同投入，那么谁会赢？"}],[{"start":718.4599999999999,"text":"马丁•卡萨多：中国有全面的政府投资，很少的自由市场，以及高效扫清监管障碍的能力。而在美国，我们有自由市场、自由资本、海量监管，却没有明显的方法把监管障碍清除掉。我认为这就是竞赛本身。"}],[{"start":735.9799999999999,"text":"很显然，如果我们这个政府能把监管障碍清除掉，美国就会轻松占据主导地位。"}],[{"start":742.7499999999999,"text":"乔治•哈蒙德：为什么美国战胜中国会如此重要，尤其是在模型优势可能只持续数周而不是数月的情况下？"}],[{"start":null,"text":" "}],[{"start":751.8999999999999,"text":"马丁•卡萨多：如果说这里存在相互竞争的理念，那我相信西方理念。所以如果你是在这个层面上问我，这大概就是我最核心的信念。"}],[{"start":762.7599999999999,"text":"我认为有三种可能的结果。美国赢，中国赢，或者双方都发展并进入一种缓和状态。而我其实更喜欢第三种：创新获胜，人类获胜，世界获胜。"}],[{"start":776.1699999999998,"text":"我并不需要美国在所有层面、在本土范围内都绝对占据统治地位，但我们不能处于依赖中国的境地。"}],[{"start":783.9899999999999,"text":"要记住，互联网时代我们也经历过类似的事情。互联网是我们创造的。实际上，我们当时拥有行业内的领先企业，思科系统公司(Cisco Systems)、瞻博网络(Juniper Networks)。后来中国复制了它们，并且这在新兴世界产生了巨大影响。[中国的]影响力范围随之扩大。你可以想象，在AI领域这种情况会更加明显。所以至少，我们不能依赖中国的AI，而且我们希望为盟友提供获取美国技术的渠道。"}],[{"start":816.3599999999999,"text":"乔治•哈蒙德：说到这一点，我想谈谈AI公司与美国政府之间的关系。Anthropic对阵五角大楼一直是那里的大新闻。你的职业生涯起步于劳伦斯利弗莫尔[国家实验室，一个专注于核武器研发的研发中心，隶属美国能源部(US Department of Energy)]。我更广泛地好奇，你认为在调动AI这件事上，私营科技公司和政府之间应当是什么关系？"}],[{"start":843.4999999999999,"text":"马丁•卡萨多：9•11刚过之后发生的事情，与今天正在发生的事情之间，有非常好的类比。所以，9•11发生时我其实就在美国能源部(Department of Energy, DoE)，当时我在武器项目组，那其实像是冷战遗留下来的一种时代错置之物。"}],[{"start":859.9199999999998,"text":"一切都变了：随着互联网和恐怖主义的出现，威胁的性质变了。而我们当时提出的很多问题，今天也同样在被提出：我们知道恐怖分子在利用互联网沟通。我们怎样找到他们？又怎样在不监控美国公民的情况下做到这一点？这些问题几乎完全一样。"}],[{"start":881.5099999999999,"text":"当时事情最后是这样发展的：有些公司决定与政府合作，有些公司决定不与政府合作。两种选择都完全没问题。然后我们也算是一路摸索着走过来了。这一次，问题完全一样：当法律还没有更新时，如何使用AI？公司可以自己决定是否与政府合作。"}],[{"start":903.4899999999999,"text":"但这次行不通、而且与上次不同的是，Anthropic决定他们想合作，但同时又想掌控政府的运作流程。一个独立公司居然想要实际控制政府的决策流程，这在历史上完全是前所未有的。"}],[{"start":918.3599999999999,"text":"所以我个人的看法是，不与政府合作完全没问题。不可以的是说：“政府，你们不懂这项技术，所以我们来替你们做决定。”
我觉得现在正在打官司的，正是这一点，对吧？而且，顺便说一句，我认为微软(Microsoft)、OpenAI，所有这些为Anthropic辩护的公司，都是错的，因为这件事太不一样了。"}],[{"start":941.4999999999999,"text":"乔治•哈蒙德：为什么这件事不能像你刚才描述的那样，由政府直接说一句“我们不一定要合作，我们的服务条款和你们的预期不一致，所以我们不合作”来解决？为什么他们还要更进一步，给它贴上供应链风险认定的标签？"}],[{"start":958.5099999999999,"text":"马丁•卡萨多：嗯，我认为Anthropic本来也可以这么做。他们完全可以直接决定不合作，但他们并没有这么做。Anthropic当时是在试图保留对政府内部发生之事的某种控制权。"}],[{"start":974.2899999999998,"text":"在我看来，鉴于这项技术的渗透程度之广——下面是马丁本人的观点——如果Anthropic已经表明，他们愿意撤回对关键基础设施的支持，而事实也正是如此，那么你完全可以想象，这会被视为一种供应链风险。"}],[{"start":989.8299999999998,"text":"据我所知，在《爱国者法案》(Patriot Act)实施时期……也就是9•11之后，从未发生过公司说“即使你们依赖它，我们也要把它关掉”这种事。而这里实际发生的，不正是这个吗？"}],[{"start":1002.3099999999998,"text":"所以，这就好比思科说，如果我们不喜欢你们在做什么，即便那完全合法，我们也要把路由器关掉。或者就像电话公司这么说一样。"}],[{"start":1012.7499999999999,"text":"乔治•哈蒙德：那另一种类比会不会是，比如WhatsApp或Telegram说：“我们不会在自己的服务里植入后门”？"}],[{"start":1021.3399999999999,"text":"马丁•卡萨多：完全不是一回事。"}],[{"start":1024.4499999999998,"text":"乔治•哈蒙德：为什么？"}],[{"start":1027.1,"text":"马丁•卡萨多：因为，剥夺某种正在被用于某项行动中的事物的可用性，和事后提供访问权限，完全是两回事。你就想象一下，战场上的作战人员正在执行任务中途沟通，这时电信公司决定把通信掐断。这才是这里正在发生的事情最贴切的类比。"}],[{"start":1048.08,"text":"乔治•哈蒙德：那如果先不谈Anthropic合同的细节，我真正好奇的是，这对政府和硅谷更广泛的合作关系会产生什么影响。它会改变双方合作的方式吗？"}],[{"start":1061.09,"text":"马丁•卡萨多：我不这么认为。政府与企业之间一直都存在这种张力。我完全、完全尊重任何不愿与政府合作的公司。我完全尊重它们，我也会投资它们。"}],[{"start":1075.83,"text":"我很高兴，我们现在就在讨论这样一个问题：如果一家公司威胁要减少对关键基础设施的访问，政府该怎么办？"}],[{"start":null,"text":" "}],[{"start":1085.24,"text":"乔治•哈蒙德：我觉得这也呼应了我们整场对话中反复出现的一个主题，那就是，AI作为一种技术，其力量之强，是我们以前从未真正遇到过的。"}],[{"start":1097.06,"text":"马丁•卡萨多：是。或者也可能是，我们此前从未遇到过一种围绕AI形成的、如此强势的意识形态。也许这件事与互联网完全类似。不同之处只在于，运营这些东西的人，就是单纯地，比当年建设互联网的人更想掌控更多东西。完全有这种可能。"}],[{"start":1119.4099999999999,"text":"乔治•哈蒙德：你认为驱动他们的是这种意识形态，而不是说，他们只是比当年人们更害怕这项技术带来的影响？"}],[{"start":1129.0299999999997,"text":"马丁•卡萨多： 我只是说，这有可能。他们也可能确实更害怕，但问题就在这里：如果是那样，那就是意识形态的问题，而不是技术的问题。在那种情况下，变的是掌控技术的人，而不是技术本身。完全有这种可能。而我们现在并不知道答案。"}],[{"start":1151.0899999999997,"text":"乔治•哈蒙德：这两件事难道不是相互关联的吗？"}],[{"start":1155.7699999999998,"text":"马丁•卡萨多： 可能是，但也可能这只不过是另一种我们已经打了70年交道的普通计算机技术。你知道，只是围绕它演化出来的那些文化，把它看成了其实并非它本来面目的某种东西，并借此去左右政府政策，却根本不知道那样做会带来什么后果。我不知道到底是哪一种情况。所以我其实很高兴，在现任政府任内，这场讨论正在发生。这是一场非常健康的讨论。"}],[{"start":1185.0799999999997,"text":"也许最终会证明，政府完全错了，而我对此也完全持开放态度。的确有这种可能。"}],[{"start":1192.9499999999996,"text":"本记录稿经编辑，以求简洁清晰。"}]],"url":"https://audio.ftcn.net.cn/album/a_1776480060_8903.mp3"}