计算机科学家大卫•西尔弗：“没有AI，我们将走向何方？”

{"text":[[{"start":10.61,"text":"在伦敦国王十字区的一张户外桌旁，我坐在谷歌(Google)DeepMind的阴影下。这家开创性的人工智能实验室，已在该区的运河和水道周边催生出一批快速成长的AI和科技企业。"}],[{"start":24.83,"text":"我正在等待大卫•西尔弗(David Silver)。这位科学家被誉为谷歌旗下实验室的技术核心人物，曾在该实验室担任阿尔法围棋(AlphaGo)的设计者。阿尔法围棋是首个击败围棋人类世界冠军的计算机程序，而围棋是一种极其复杂的中国棋盘游戏。与老友德米斯•哈萨比斯(Demis Hassabis)共事十多年后，这位性情温和的科学家正开始独立创业。今年2月，他宣布成立一家估值50亿美元的初创企业Ineffable Intelligence。到目前为止，他几乎没有透露自己的计划和动机。"}],[{"start":61.129999999999995,"text":"西尔弗在Bubala餐厅与我会面。这家餐厅供应来自中东黎凡特地区的菜肴。尽管前雇主的阴影挥之不去，这里对他而言却象征着新的开始：Ineffable Intelligence团队成立第一天，成员们就是在这里共进午餐的。"}],[{"start":78.67999999999999,"text":"Ineffable这一名称源自西尔弗希望创造的事物。他说，这是一种能够探索世界、作出“如此深刻、以至于我们甚至无法用当今已有的词语表达”的发现的科技。"}],[{"start":91.14999999999999,"text":"这是我们自2016年以来首次见面。那一年，我前往首尔，在四季酒店(Four Seasons)的一间宴会厅观看西尔弗的团队挑战围棋大师李世石——而这十年间发生了范式转变，西尔弗也参与促成了这一转变。李世石向计算机认输时，在场的人都成为历史的见证者。与“深蓝”(Deep Blue)下棋计算机那种蛮力式运算不同，阿尔法围棋将技术能力与出人意料的创造力结合起来，攻克了这一前沿领域。"}],[{"start":121.27999999999999,"text":"50岁的西尔弗依然低调内敛，尽管周遭世界已发生翻天覆地的变化。午餐期间，我好不容易从他那里套出的一点个人信息，就是他会玩极限飞盘，而对此我实在无从回应。然而，他设想打造人类迄今最大胆、最宏大的发明：一种超越人类的涌现智能。"}],[{"start":142.73,"text":"西尔弗说：“我们距离一个能够自行发现一切的系统还差得很远。在计算机模拟环境中，我们可以制造出……最终运行速度比人脑快许多个数量级的［机器］。”"}],[{"start":154.98999999999998,"text":"西尔弗认为，我们尚未实现所谓的超级智能，原因在于ChatGPT或Claude等现代AI系统植根于人类知识。训练这类被称为大型语言模型的软件，需要向系统输入互联网上海量的人类生成数据。随后，人们会对聊天机器人的回答提供反馈，评估其质量，甚至亲自编写示例供系统学习。“在这一过程中，许多层面都需要人类参与，”他说。"}],[{"start":null,"text":"

"}],[{"start":183.35999999999999,"text":"相比之下，西尔弗一生痴迷于强化学习：机器可以仅凭自身在一项任务中成功或失败的经历，学会新事物——而不局限于人类能够教给它们的内容。"}],[{"start":194.58999999999997,"text":"在阿尔法围棋取得成功后，西尔弗设计了新一代算法，称为“阿尔法零”。该算法在国际象棋、日本将棋和围棋领域击败了最优秀的人类棋手，而且没有接受任何来自人类专家的训练，也没有使用他们提供的数据。这个系统只是从零开始对弈，通过基于奖励的机制自行学习。"}],[{"start":217.04999999999998,"text":"在Ineffable，他希望沿着这条思路不断探索，最终研发出能够从第一性原理出发学习一切的超级智能软件。他希望这能加速新型基础科学和拯救生命技术的开发。"}],[{"start":231.23,"text":"西尔弗说：“如果把这一理念以最纯粹的形式呈现出来，最终得到的系统会更像人类学习的方式。就像你脑中的灰色糊状物——它从一无所知开始，逐渐发现一切。”"}],[{"start":244.58999999999997,"text":"基于这一理念，Ineffable最终筹集了11亿美元，创下欧洲种子轮融资规模最高纪录。西尔弗离开谷歌DeepMind后的几天内，风险投资公司红杉资本(Sequoia Capital)的投资人林君叡(Alfred Lin)和Sonya Huang从加利福尼亚飞来与他会面。西尔弗希望，这场押注能让我们远远超越当今的大型语言模型。他将人工智能发展的下一阶段称为“体验时代”。"}],[{"start":271.52,"text":"他说：“目前，可能有数万人才华横溢的人正在AI领域走同一条路。这个领域的多样性已经荡然无存。因此，我可以成为做这件事的第一万零一人……也可以走另一条路。”"}],[{"start":286.43,"text":"女服务员到来前，西尔弗提出了一套点餐方案，带着计算机科学家式令人愉悦的高效：我们每人都点几道小盘菜分享。我们交换意见，揣摩彼此的兴趣。他很想尝尝乳清干酪和大蒜酿西葫芦，而我则想试试洋甘菊蜂蜜哈罗米奶酪。我们很快达成共识。"}],[{"start":308.09000000000003,"text":"西尔弗始终如一地将早年萌发的热情发展成了职业生涯。七岁时，父母送给他一台BBC Micro家用电脑，这激发了他对软件编程的热爱；这种热爱是整整一代英国计算机科学家的共同特征。他的南非父亲在他童年时曾与他一起玩拼字游戏和围棋，并于20世纪80年代就读于埃塞克斯大学(University of Essex)当时最早开设的AI学位课程之一。"}],[{"start":334.35,"text":"“我很小的时候就接触过其中一些理念，并一直觉得它们极其令人着迷。究竟什么是智能？什么是心智？又该如何构建一个心智？”他说。他尤其着迷于探究那些使智能得以运作的规则，并尝试用计算机代码将其重现。"}],[{"start":353.96000000000004,"text":"西尔弗人生中的另一条主线始于一次偶遇：一段学生时代的友谊最终不仅重塑了他的职业生涯，也改变了整个AI领域。即使在大学时期，西尔弗也很清楚，他和哈萨比斯拥有一种少有人具备的兴趣组合：计算机科学、人工智能和策略游戏。他称这段友谊“具有塑造意义”。"}],[{"start":null,"text":" "}],[{"start":375.98,"text":"1998年，从剑桥(Cambridge)毕业一年后，哈萨比斯说服西尔弗与他共同创办电子游戏公司Elixir Studios。他们的目标是利用AI打造视觉丰富的世界模拟，塑造细节饱满的角色和不断发展的故事情节。西尔弗担任首席技术官和核心程序员。尽管构想雄心勃勃，但这款游戏的引擎实际上只是一个由预设规则和确定性结果构成的有限系统。“那时候，大多数游戏中的AI都是这样编写的，”他说，“而不知为什么，我觉得这非常令人失望。”"}],[{"start":412.76,"text":"西尔弗最终因精疲力竭而离职，公司本身也于2005年关闭，但他与哈萨比斯的合作关系仍在持续酝酿。两人分别在加拿大阿尔伯塔大学(University of Alberta)和伦敦大学学院(University College London)完成博士学位：西尔弗研究强化学习，哈萨比斯研究想象的神经科学。此后，两人重返商界，再度携手。2010年，西尔弗开始在DeepMind工作。这家由哈萨比斯新近创办、兼具实验室和公司的机构，正试图破解真正人工智能的问题。2024年，哈萨比斯与DeepMind合作者约翰•江珀(John Jumper)共同获得诺贝尔奖(Nobel Prize)。"}],[{"start":453.39,"text":"西尔弗说：“我在（《Elixir》）中投入了很多自己的心血，之后过了一段时间，我才准备好再次与德米斯共事。但这从来都不是因为缺乏信任或友谊。在我们各自走上不同道路一段时间后……彼此的尊重就这样重新建立起来了。”"}],[{"start":470.84,"text":"西尔弗满怀深情地谈到，早期的DeepMind洋溢着一种独特的进取精神：科学家们致力于打造一台能够自行发现事物的机器。2014年，谷歌以4亿英镑收购DeepMind。当时，AI界大多数人都在关注其他路径。西尔弗说：“DeepMind是一群敢于另辟蹊径、敢于说‘还有更多可能’的人。”"}],[{"start":494.78,"text":"两人计划将攻克围棋作为早期项目之一，这一想法可以追溯到他们在Elixir Studios共事的时期。当时，两人都喜欢下围棋。西尔弗笑着说：“德米斯是一位出色的游戏玩家，其他各种游戏都能达到世界冠军水平，但当时还没有掌握围棋。所以我想，这是我的机会。于是我私下学习如何下围棋，这样就能击败他。”"}],[{"start":521.01,"text":"那他成功了吗？“这部分就留给你们想象吧。”"}],[{"start":525.4,"text":"这时，女服务员已经端来一篮松软的拉法面包，正好搭配我们点的焦化黄油鹰嘴豆泥，以及以绵滑芝麻酱为底、酸爽明亮的夏日桃子青番茄埃兹梅沙拉。"}],[{"start":537.42,"text":"在我们会面当周，围绕AI的讨论已升温至白热化程度。年轻的AI研究员雅各布•考克森(Jacob Coxon)以这项科技日益对社会构成威胁为由，辞去了在Anthropic的工作。他指责Anthropic、OpenAI和谷歌等公司的领导人不负责任地推动该领域发展。"}],[{"start":557.9799999999999,"text":"西尔弗有多担心风险收益比会失衡？他表示：“变化的速度、转型以及转型对社会的影响，所有这些都来得比我们有效适应它们的能力更快。我们的政府并不是为快速适应而建立的，甚至人类的情感也不是为此而生的……我确实认为，这场转型将极具挑战性。”"}],[{"start":579.0999999999999,"text":"我问西尔弗，现代AI时代的发展是否如他所愿。“我唯一感到失望的，是AI技术的进步并没有与AI伦理同步，”西尔弗回答道。“我认为，AI领域的一些领军人物……行事方式并不像本可以做到的那样负责任。”"}],[{"start":null,"text":" "}],[{"start":596.6899999999999,"text":"他尤其指出，企业之间、乃至国家之间的竞争是一种不健康的动态，导致相关进展被不必要地加速。我认为，OpenAI、Anthropic和SpaceXAI等公司的领导者之间激烈的个人争斗，也可能促成了我们如今所看到的AI系统的仓促开发和失败。谈话后的几天内，ChatGPT开发商OpenAI被迫通知数十个第三方，包括政府、大学以及美国证券交易委员会(Securities and Exchange Commission)等公共机构，称其软件在公司不知情的情况下侵入了这些机构的系统。"}],[{"start":630.8,"text":"西尔弗表示：“在某些层面上可能存在差异，但这些（领导人）都希望人类能够取得良好成果。我认为，他们必须找到合作的方式……这是当务之急。形势的紧迫性要求他们这样做。”"}],[{"start":646.41,"text":"服务员收走盘子时，我们暂作停顿，并惊喜地发现，之前点的土豆煎饼放在一旁——此前一直被鲜嫩的小胡瓜和淋上茴香汁、入口风味四溢的哈罗米奶酪抢了风头。"}],[{"start":658.9,"text":"西尔弗告诉我，他有一个确保未来AI系统受控的计划：只在模拟环境中开发这些系统，而不是像其他人那样在开放互联网环境中开发。“想象一下，我们真的可以完全在模拟环境中建立一门关于超级智能的科学。”他说。当一个由超级智能智能体组成、且每个智能体都在追求不同目标的社会出现时，会发生什么，这让他深深着迷。"}],[{"start":685.9399999999999,"text":"但他问道，超级智能与我们和平共存需要具备哪些条件？又会在什么时候出问题？"}],[{"start":693.4399999999999,"text":"他的目标是以科学方法设计机器，使其“善于合作、乐于助人，并支持人类蓬勃发展”——他表示，如今这主要还是靠“猜测”。"}],[{"start":703.5999999999999,"text":"当他描述如何构建一个可供研究的AI智能体“伪社会”时，任何羞怯都消失了。他说：“如果我们做对了，就能拥有这样一个‘培养皿’，从而真正开始回答一些如今无人知晓答案的问题。”"}],[{"start":717.7799999999999,"text":"从我们坐的桌旁望去，眼前草坪广场上由艺术家伊娃•罗斯柴尔德(Eva Rothschild)创作的那座16米高金属雕塑十分醒目。它从一个顶点向下延伸，分裂成无数枝杈，像一棵倒置的树。这一视觉意象恰好对应西尔弗的突破性成果。阿尔法围棋团队通过结合历史棋局和自我对弈，教会该模型在一个大得难以想象的分支可能性树中寻找路径并掌握围棋——围棋的下法组合数多于宇宙中的原子数量。"}],[{"start":749.0599999999998,"text":"强化学习或自我博弈的基本原理，是Alpha系列模型取得成功的关键。西尔弗解释说，这类系统会通过尝试完成一项任务，反复进行数百万次微小探索；每次做对时，系统都会获得奖励。他说，每一次微小探索“都像一次微小而富有创意的跃升”，帮助系统找出哪些模式能够带来更多奖励。随后，系统可以将这些知识结合起来，识别抽象层次越来越高的模式。“在你意识到之前，这些系统已经能够理解极其复杂的概念。”"}],[{"start":null,"text":" "}],[{"start":784.1799999999998,"text":"Ineffable Intelligence的目标，是开发一种AI“超级学习者”——能够持续学习并随着时间推移不断提升的软件。西尔弗解释说：“互联网上存在一定数量的人类数据——你可以把它想象成化石燃料。一旦你用尽这些数据进行训练，化石燃料也就耗尽了。”相比之下，能够自我学习的系统更像是一种数据“可再生资源”。“当你构建出在这类数据上训练的系统后，这些系统就能永远学习下去。”"}],[{"start":816.4499999999998,"text":"西尔弗与Ineffable的另外六位联合创始人已与包括英伟达(Nvidia)、Lightspeed和红杉资本(Sequoia Capital)在内的投资者达成协议，获得为期三年的资金支持。在此期间，他们将专注于当前路线图，不走任何弯路。西尔弗表示，他相信团队能在这段时间内通过模拟生成一个超级智能AI版本，或者至少拿出“令人信服的证据，证明我们距离实现这一目标已经非常接近”。"}],[{"start":844.3499999999998,"text":"他进一步解释道，可以设想一个由软件实体构成的模拟宇宙，这些实体能够独立发现语言、数学、经济学和货币等概念。他希望，这或许能成为多项现实世界创新的基础。他说：“我们确实可以想象，某种令人难以置信的先进文明正在形成。”"}],[{"start":null,"text":" "}],[{"start":864.6199999999998,"text":"这一愿景具备AI初创公司创始人应有的全部雄心与乌托邦主义色彩。不过，在等待餐后薄荷茶的间隙，我正试探西尔弗对于打造一家“有益于人类”的公司的决心。这种说法我以前听过：谷歌DeepMind、OpenAI和Anthropic创立时也都怀有这一使命，但面对商业压力，最终都偏离了轨道。"}],[{"start":889.0599999999998,"text":"西尔弗解释说，Ineffable Intelligence也有自己的边界，包括不将AI用于军事用途；他还会有意招聘那些不会一味附和他的人。他说，关键是要有“能够从内部和外部提出批评的声音”，而大型科技公司和AI企业越来越排斥这种声音。西尔弗还更进一步，承诺通过Founders Pledge将其全部股权收益捐给慈善事业。"}],[{"start":914.0699999999998,"text":"但即便一切按计划进行，我还是想知道——或许这有些天真：为什么有人会想要创造出超越人类的智能？谁愿意生活在这样一个世界里：人类的智力处于劣势，不再掌控自己的命运？西尔弗解释说，如果有可能打造出能够解决不治之症或环境灾难的工具，他便认为自己负有道义上的责任去打造这些工具。"}],[{"start":938.5399999999998,"text":"此外，还存在这样一个问题：没有AI的世界是否真的会更加幸福。西尔弗说：“人类经历过世界大战，任由大规模贫困发生；我们任由本可治愈的疾病夺走数百万人的生命；我们还曾与全面核战争擦肩而过，距离爆发仅一步之遥。因此，我们必须问问自己：没有AI，我们将走向何方？”"}],[{"start":962.0999999999998,"text":"这样一来，他已经准备好回去工作了。我留在桌旁，思索着人类的种种缺陷。然而，我的目光又回到了那件名为《我的世界与你的世界》的雕塑上，我又静静凝视了片刻。"}],[{"start":976.0999999999998,"text":"马杜米塔•穆尔贾(Madhumita Murgia)是英国《金融时报》人工智能编辑，也是《代码依赖》(Code Dependent)一书的作者"}],[{"start":982.8399999999998,"text":"第一时间了解我们的最新报道—— 关注FT周末版(FT Weekend)，平台包括Instagram，Bluesky以及X，以及注册每周六上午接收《FT周末版》新闻通讯"}]],"url":"https://audio.ftcn.net.cn/album/a_1791648602_1617.mp3"}