Anthropic首席执行官达里奥•阿莫迪：我不希望AI被用来对付我们自己的人

{"text":[[{"start":11.62,"text":"人们对达里奥•阿莫迪(Dario Amodei)的看法不一。"}],[{"start":14.959999999999999,"text":"美国总统唐纳德•特朗普(Donald Trump)抨击了Anthropic的首席执行官及其这家AI公司的联合创始人，称他们是激进的“左翼疯子”。阿莫迪的“罪行”是什么？竟敢主张Anthropic的服务不应用于五角大楼(Pentagon)的国内大规模监控或完全自主武器。"}],[{"start":33.86,"text":"有影响力的科技分析师本•汤普森(Ben Thompson)也批评阿莫迪夸大AI风险，把这称作“以灾难猎奇为卖点的营销工具”。即便如此，汤普森仍刚刚把Anthropic加冕为当下AI竞赛的领跑者，理由是其大受欢迎的编程工具和强大的Claude Mythos模型的发布，关于后者稍后还会展开。"}],[{"start":55,"text":"但资深硅谷投资人迈克尔•莫里茨(Michael Moritz)爵士则要热情得多。他对我说：“我认为他是个非同寻常的人，名副其实。 他是非常有深度的技术专家，做出了极佳的战略选择。”"}],[{"start":69.39,"text":"面对这样复杂多元的履历，我就更想见见这位曾从事计算生物学研究、而今执掌一家史上增长最快公司之一的人。Anthropic刚以3800亿美元估值融资了300亿美元，并据报道正筹备于今年晚些时候进行大规模上市。"}],[{"start":88,"text":"阿莫迪对AI潜力的热忱如此之高，他设想有一天，Anthropic很快会在数据中心里运行“一个天才之国”，而这将对我们的生活产生巨大影响。尽管外界议论称AI泡沫行将破裂、这项科技正触及一个极其昂贵的天花板，阿莫迪仍坚信，他所称的“计算大团块”的扩展之路还有很长一段要走。"}],[{"start":111.01,"text":"“彩虹没有尽头，只有彩虹本身，”他说。“我们没有看到任何放缓的迹象。”"}],[{"start":117.31,"text":"“我要第一个说：它将彻底改变世界，而我们正在低估它的重要性。”"}],[{"start":122.88,"text":"阿莫迪把会面地点选在家乡旧金山历史悠久的杰克逊广场街区的Cotogna餐厅。这个街区的一些红砖建筑可追溯到19世纪50年代初加州淘金热时期。我后来得知，Cotogna在意大利语中意为“榅桲”，也就是英文的quince——正是隔壁那家米其林三星餐厅Quince的名字。我们用餐的这家餐厅据称是后者更为“轻松随意、宾主尽欢”的姊妹店；对硅谷那些身家数十亿美元的富豪来说，这里或许才是更自然的会面场所。"}],[{"start":158.18,"text":"我提前抵达后，接待经理热情迎上来，把我带到一张户外餐桌——这桌位先前已由Anthropic的安保团队预留。唯一的麻烦是，我们用餐时细雨不止；所幸透明的塑料墙和屋顶让我们保持干爽。我等候时，看着白色无人驾驶的Waymo公司车辆在太平洋大道上轻盈驶过，仿佛窥见了正迎面扑来的AI化未来。"}],[{"start":null,"text":"

"}],[{"start":182.72,"text":"阿莫迪很快就到了，身穿白色T恤和蓝色开衫。卷曲的头发、蓝色镜框的眼镜，再加上专注的神情，让这位43岁的科技企业家依然像他职业生涯之初那位书呆子式的学术研究者。"}],[{"start":197.67,"text":"我们先聊到阿莫迪在第一次互联网热潮期间于这座城市的米慎区(Mission District)长大的经历。出乎意料的是，他说自己当时并没有太在意。“尽管我在这里长大，也见到过，比如说，谷歌(Google)和雅虎(Yahoo)，但我其实对它并不怎么感兴趣，”他说。"}],[{"start":214.89,"text":"当时他所热爱的领域是物理学，他先在斯坦福大学(Stanford University)学习，随后在普林斯顿大学(Princeton)完成了生物物理与计算神经科学的博士学位。他说：“我想研究真正困难的问题。我想理解世界与宇宙。我当时想象自己会成为一名教授。”"}],[{"start":233.67999999999998,"text":"作为一位意大利移民制革匠的儿子，阿莫迪说他热爱意大利菜（这也解释了他选择Cotogna），不过他遗憾自己从未学会这门语言。“我一直很不擅长语言，真是糟糕透了。”他笑道。"}],[{"start":248.02999999999997,"text":"阿莫迪回忆说，年少时他和比他小四岁的妹妹丹妮拉，和许多孩子一样，常常憧憬着将来一起为世界做点好事。但他也承认，现实竟真能如此发展，还是出乎他的意料：2021年，丹妮拉与哥哥和其他创始人一起，以公益公司形式创立了Anthropic。他们都已承诺将来把自己80%的财富捐出，不过具体机制仍在筹划中。"}],[{"start":274.27,"text":"他将Anthropic团队中非凡的信任与忠诚很大程度归功于丹妮拉的努力。与大多数人员流动性高的初创公司不同，Anthropic的核心团队始终异常稳定，任职时间最长的17名员工至今仍在公司。我在与他共进午餐前看过一段七位创始人的视频对谈，他们之间的默契一览无遗。其中一位创始人有些不好意思地坦言，自己从未想过要创办公司，但觉得有“责任”确保AI得到安全发展。“我也是这种态度，”阿莫迪对我说。"}],[{"start":null,"text":"

---

"}],[{"start":309.34,"text":"我们都点了蟹肉浓汤作为前菜。两名服务员隆重地把汤淋在撕碎的蟹肉上，又在我们中间放下一只装有四个迷你小面包的共享盘。浓汤好得惊人，既顺滑又带劲儿。我们俩全程清心寡欲，只喝气泡水。"}],[{"start":327.37,"text":"阿莫迪表示，他对AI的兴趣源于阅读未来学家雷•库兹韦尔(Ray Kurzweil)的《奇点临近》。他说自己不会为整本书背书，因为其中有些内容“很疯狂很科幻”，但他认可库兹韦尔的核心洞见：计算能力的指数级提升最终会带来人类水平的AI。“那是我在2005年的灵感来源，”他说着，顺手拿起了第三个面包卷。"}],[{"start":350.98,"text":"阿莫迪在斯坦福大学医学院做博士后研究员、苦苦寻找癌症生物标志物时，越来越清楚地意识到，AI可以成为加速科学发现的强大工具。他谈起竞争对手AI研究机构谷歌DeepMind联合创始人德米斯•哈萨比斯爵士的成就时，语带钦佩。哈萨比斯因帮助开发AlphaFold2模型而于2024年获得诺贝尔奖；该模型已经预测了2亿种蛋白质的结构。"}],[{"start":380.25,"text":"“我对我们在生物学上能做的事情感到非常兴奋，”阿莫迪说。“AlphaFold给了我很多启发。我认为德米斯已经为我们指明了道路。而且，你知道的，我也想做一些类似的事情。”"}],[{"start":394.95,"text":"为此，Anthropic本月以4亿美元收购了生物科技初创公司Coefficient Bio。Anthropic还任命诺华(Novartis)首席执行官万思瀚(Vas Narasimhan)进入其董事会。"}],[{"start":406.65,"text":"其目的并非直接研发药物本身，而是在制药流程的各个阶段部署AI赋能的工具。他指出，AI可以帮助提出疾病治疗的假设、筛选药物候选物，并开展更高效的临床试验。"}],[{"start":null,"text":" "}],[{"start":421.77,"text":"阿莫迪承认，当前关于AI的公众叙事存在两种相互混淆的说法，而他本人也在一定程度上助长了这种混淆。2024年，阿莫迪发表了一篇名为《机器的温柔恩典》的长文，阐述了AI带来的激进利好。他随后对我表示，他相信AI可以将美国年度GDP增速提升到每年10%或更高。"}],[{"start":445.7,"text":"但他担心，就目前而言，关于AI风险的负面叙事正占上风。他本人在今年发表的一篇题为《科技的青春期》的文章中详细阐述了AI的诸多危险。他还警示，AI可能在五年内消灭约50%的入门级白领岗位，引发经济动荡并推高失业率。"}],[{"start":466.32,"text":"阿莫迪坚持认为，AI公司必须正视这项科技将带来的经济冲击。他指出，负面叙事之所以占上风，部分原因在于AI行业尚未充分兑现其带来的益处。在那之前，人们理所当然会质疑正面叙事：“那只是宣传吗？只是永远不会实现的‘蒸汽软件’(vapourware)吗？我们必须把它真正做出来。”他表示。"}],[{"start":493.18,"text":"“我们不应否认这种颠覆会发生。我们只需要让积极影响大到足以成为应对颠覆的工具，”他说。他的箴言是，AI只能“以信任的速度扩散”；而当前信任十分匮乏。"}],[{"start":null,"text":" "}],[{"start":507.92,"text":"本月，Anthropic通过谨慎控制发布其Claude Mythos预览版模型，令网络安全领域为之震动。该公司称，Mythos已在所有操作系统和网页浏览器中发现了数千个所谓“零日”（此前未被发现的）网络漏洞，其中一些可追溯至27年前。随后，包括美国政府官员在内的相关方与美国最大的银行进行了紧急会谈，以确保其网络的安全性。"}],[{"start":535.57,"text":"阿莫迪描述称，Anthropic已启动玻璃之翼计划(Project Glasswing)，这是一项与包括亚马逊(Amazon)、苹果(Apple)和微软(Microsoft)在内的40多家机构合作的项目，旨在帮助发现并修补网络漏洞。但在其部分代码泄露后，Anthropic自身的数据安全做法也正受到审查。阿莫迪表示，他怀疑开源模型和中国开发者将在六到十二个月内复现Mythos的能力。"}],[{"start":561.24,"text":"与其“和平主义者”的名声相反，阿莫迪主张民主政府利用这些强大的AI模型来对抗俄罗斯、中国等威权政府，并支持包括乌克兰和台湾在内的盟友。他说：“我们对美国政府使用这项科技感到兴奋”，并称这或许有助于“瓦解”威权政权。“但我不希望它被用于对付我们自己的人民，或被用于不民主的目的——无论是由专制政权还是我们自己的政府。”"}],[{"start":588.9300000000001,"text":"阿莫迪表示，他不能讨论Anthropic目前针对五角大楼提起的法律诉讼，该诉讼对其被定性为“供应链风险”的有害分类提出异议。Anthropic此前曾反对军方提出的部分AI用途，称在少数情形下这些用途可能“削弱而非捍卫民主价值”。五角大楼则坚持认为，所有AI公司都应接受其技术的“一切合法用途”。“可惜达里奥•阿莫迪是个撒谎者，而且有上帝情结，”五角大楼高官埃米尔•迈克尔(Emil Michael)发推写道。"}],[{"start":622.7900000000001,"text":"我想，被本国总统如此公开地抨击一定让人感到不安。阿莫迪表示他并未把这些批评当成针对个人的攻击。“形形色色的人会出于各种各样的原因说各种各样的话。我其实认为，坚持一套原则并遵循这些原则会让人非常自由，”他说。"}],[{"start":null,"text":"

---

"}],[{"start":643.33,"text":"这时，我们的主菜端上来了：阿莫迪的是芦笋披萨，我的是意大利乳清干酪大饺。阿莫迪直接用手拿着披萨吃，我则切开自己盘中那个硕大的像信封一样的意面，里面酸香的奶酪缓缓流出。"}],[{"start":659.24,"text":"一些评论人士认为，随着对Mythos的开发推进，Anthropic已经获得了堪比民族国家的力量。基于安全考量，他们据此主张，公司是否应当被国有化？阿莫迪反驳称，他坚定信奉美国的“三权分立”与制衡原则。他表示，让任何一家企业——或任何一个政府——单独掌控这项科技都很危险，这也是Anthropic与他方密切合作的原因。"}],[{"start":null,"text":" "}],[{"start":686.3100000000001,"text":"他表示自己始终坚信，企业、民间社会与政府必须携手应对我们的技术挑战。他说：“我是一个爱国者，我坚信这个国家。”他还说：“我们认为，我们在帮助每个人搞清楚这些问题、并作为一个值得信赖的负责任参与者方面发挥着重要作用。”"}],[{"start":705.2600000000001,"text":"在发布了Mythos后，阿莫迪更坚信有必要对AI实施强有力的监管。他推测，在未来六到十二个月内，生物安全领域可能会出现类似的风险。他说：“我认为我们应该像监管汽车和飞机那样监管AI。人人都明白它们具有巨大的经济价值，但它们必须被谨慎打造。如果没有把它们造对，它们可能会致人于死地。”"}],[{"start":731.6800000000001,"text":"阿莫迪此前曾与科技行业的其他人发生过摩擦——他称他们为“混乱取向的行动者”——这些人砸钱反对那些支持对AI进行州层面立法的公职候选人。Anthropic已向主张更严格安全监管的Public First Action超级政治行动委员会捐款2000万美元以作回应。"}],[{"start":752.35,"text":"他希望玻璃之翼计划能成为未来发布强大前沿模型的原型。他说：“这是不错的第一步，但如果我们能做得更完善就更好了。”"}],[{"start":762.74,"text":"大型模型的开发者应齐心协力，推动建立对该科技进行强制评估的框架。他建议由第三方机构来制定标准，例如由业界支持的非营利组织“前沿模型论坛”(Frontier Model Forum)。“就像评估你的汽车是否有刹车、是否有安全气囊、是否配备安全带一样。”"}],[{"start":782.22,"text":"“那岂不是意味着他得和他的劲敌、OpenAI的掌舵人萨姆•奥尔特曼(Sam Altman)牵手？”我问。阿莫迪笑了。今年早些时候在新德里举行的一次AI峰会上，阿莫迪和奥尔特曼在台上著名地没有牵手，这与其他所有主要与会者不同。Anthropic的许多成员——包括阿莫迪——此前就职于OpenAI，但后来离开，担心奥尔特曼对安全问题不够重视。"}],[{"start":810.26,"text":"阿莫迪谨慎行事，避免与奥尔特曼进一步起冲突，但他仍抱有希望：只要能在一批核心AI公司中积累起足够的势能，大家就都会感到必须加入进来。他补充说，此前一向反对过度干预式监管的美国政府官员也“明白当下的关键时刻”。他说：“我很乐观。这些都是成熟的行动者，而且有动力去把事情做好。”"}],[{"start":null,"text":" "}],[{"start":835.38,"text":"阿莫迪没有时间吃甜点或喝咖啡。但当他以富人的责任作结时，他变得比整顿午餐中的任何时候都更为生动。"}],[{"start":844.74,"text":"他认为我们正处在一个新的“镀金时代”，少数“极其幸运”的亿万富豪（包括他自己）积累了惊人的财富，并有义务投入更多慈善。Anthropic的一些创始人与“有效利他主义”运动关系密切，该运动试图用计算找出最有效的捐赠方式。阿莫迪对那些对媒体上“不公平”批评恼火、随后又通过收购媒体“买下裁判”的科技大亨尤为尖锐批评。他拒绝点名，但暗示英国《金融时报》读者或许能猜到他们是谁。"}],[{"start":877.1800000000001,"text":"“我们有义务无私地回馈。为此，社会不必把我们捧上神坛，”他说。“就算媒体说我折磨小狗，我仍然负有这些义务。”"}],[{"start":887.69,"text":"他临别时的话清楚表明，阿莫迪希望在有关AI的辩论中把自己定位为“好人”一方。但阿莫迪的语气令许多硅谷的批评者感到刺耳；他们指出，他的原则与Anthropic的商业利益高度一致。股东资本主义的激烈竞争压力也会施加其无情的内在逻辑。"}],[{"start":908.44,"text":"尽管如此，究竟是像阿莫迪和哈萨比斯这类由科学家转型为企业家的人士，还是那些“混乱取向的行为者”先实现人类水平的AI，这对世界可能有着巨大的影响。作为当下AI阵营的领跑者，阿莫迪势必将受到愈发严苛的审视。"}],[{"start":927.11,"text":"约翰•桑希尔(John Thornhill)是FT的创新版编辑"}],[{"start":931.12,"text":"抢先了解我们的最新报道—— 关注FT周末版(FT Weekend)Instagram，Bluesky以及X，以及注册订阅“FT周末版”通讯，每周六早晨送达"}]],"url":"https://audio.ftcn.net.cn/album/a_1776691850_7943.mp3"}