{"text":[[{"start":7.44,"text":"几个月前，Anthropic联合创始人杰克•克拉克 (Jack Clark) 在台上谈到了生成式AI对社会的影响。"}],[{"start":14.4,"text":"他告诉美国国家公共广播电台 (NPR) 《星球金钱》 (Planet Money) 节目的肯尼•马龙 (Kenny Malone)：“我不知道我们会如何应对。大约一百年前，C•S•刘易斯 (CS Lewis) 写了一本名为《地狱来鸿》的书，讲述地狱里一个恶魔的故事。这个恶魔的工作是给他们的上司——一名高级恶魔、恶魔主管——写信，汇报他们试图腐化地球上一个人的情况。他们有一封信写道：‘好消息。我的人类刚刚得到了一项名为电话的发明。’”"}],[{"start":44.67,"text":"有人可能会问，电话有什么问题？克拉克回忆说，那名低阶恶魔解释道：“每当我的人独处、原本会反思自我并更加接近上帝时，他们反而会拿起电话给朋友打电话，这会让他们离地狱更近。那么，这种说法哪些对、哪些不对？说得对的是，电话之类的东西确实极大地改变了人们彼此相处的方式。”"}],[{"start":68.8,"text":"克拉克说得没错，电话确实改变了我们。1975年，曼哈顿下东区一座电话交换局发生重大火灾，导致逾10万条电话线路中断——中断时间可能长达数月，不过电话服务最终在约三周后恢复。线路恢复后不久，媒体研究人员艾伦•沃策尔 (Alan Wurtzel) 和科林•特纳 (Colin Turner) 对数百名受影响者展开调查，询问他们在没有可正常使用的电话时有何感受，以及这对他们意味着什么。"}],[{"start":97.82,"text":"三分之二的受访者表示，没有电话让他们感到“孤立”或“不安”，超过半数的人两种感觉兼而有之。许多人对失去与亲友拨打和接听电话的能力感到惋惜。值得一提的是，三分之一的人表示，电话线路中断期间，他们更频繁地登门拜访他人；同样比例的人说，来访者也更多了。"}],[{"start":120.16,"text":"这里存在一个值得注意的复杂性。政治学家罗伯特•普特南 (Robert Putnam) 在《独自打保龄》（2000年）一书中写道：“从社会层面看，电话既有所给予，也有所剥夺。”1975年的火灾表明，“电话似乎既减少了孤独感，也减少了面对面的社交活动”。"}],[{"start":140.85,"text":"自1975年以来，许多事情发生了变化，但普特南的结论依然颇有道理。电话与后来出现的所有超连接技术一样，既有利也有弊。"}],[{"start":null,"text":"

"}],[{"start":152.01,"text":"我怀疑C•S•刘易斯会对此感到意外。《地狱来鸿》中充满了这样的情形：它们既可能使人更接近上帝，也可能使人更接近永罚。高级恶魔斯克鲁塔普 (Screwtape) 解释说，坠入爱河“只不过是一个我们和仇敌都试图加以利用的机会”。战争也是如此。即便罪恶也可能通过促使人反思和忏悔，使其更接近上帝。如果说爱情、战争和罪恶都是双刃剑，那么我们发现电话——或人工智能——也是如此，实在不应感到震惊。"}],[{"start":187.43,"text":"那么，C•S•刘易斯为何会认为电话是通往地狱的捷径？刘易斯的读者想必已经猜到了答案：他根本没有这样说。杰克•克拉克几乎把自己的说法全都记错了。刘易斯并非在一个世纪前写下《地狱来鸿》（1942年）；这本书并不是由一名低阶恶魔写给他的信，而是由其叔父斯克鲁塔普写给这名低阶恶魔的信。此外，书中根本没有提到电话。"}],[{"start":215.32,"text":"虽然不想对杰克•克拉克在台上对谈中一时失言过分苛责（这种事很容易发生），但一位生成式AI领域如此权威的人士，谈起C•S•刘易斯时，连续提出一系列迷人、发人深省且听来可信的说法，而这些说法最终被证明在事实上全都不正确——这其中确实带有一种极具象征意味的讽刺。《星球金钱》节目在这段对谈的录音中加入了一则“澄清”，指出C•S•刘易斯曾在“另一封私人信件”中“谈到小玩意的弊端，包括无线电”。"}],[{"start":248.76999999999998,"text":"出于好奇C•S•刘易斯究竟如何谈论无线电，我找到了这段广为人们所引用、据称出自他之口的话——一则以反讽口吻提出的建议，解释如何避开上帝：“专注于金钱、性、地位、健康，以及（最重要的）自己的怨愤。让收音机一直开着。置身人群之中。大量使用镇静剂。”"}],[{"start":271.35999999999996,"text":"但他最初是在什么地方写下这些话的？我把这段引文粘贴到谷歌 (Google) 搜索框中，但还没等搜索结果出现，谷歌的AI Gemini就急不可耐地误导道：“你引用的，或是近似转述的，是出自C•S•刘易斯《地狱来鸿》中的话。”这位高级诱惑者倒是很会尝试；这些话写于《地狱来鸿》问世二十年之后。"}],[{"start":295.09999999999997,"text":"如果电话既能将我们联系在一起，也能让我们彼此疏远，那么我们该如何看待生成式AI？我认为，它既让我们接触事实，也让我们远离事实。凡是要求大型语言模型撰写研究报告的人，都知道其结果可能多么令人印象深刻——涉猎广泛、内容全面、附有大量实用链接，而且速度很快。它是一种足以与谷歌搜索相媲美的研究工具；而在谷歌搜索之前，图书馆目录曾承担着类似的作用。"}],[{"start":326.49999999999994,"text":"然而，几乎在每一个环节——如今甚至在每一次谷歌搜索中——AI都以流畅却转瞬即忘的摘要，以及自信而貌似合理的杜撰内容，呈现在我们面前。AI的鼓吹者不断告诉我，如今这类虚构内容几乎不再出现。可我亲眼所见却告诉我，事实并非如此。"}],[{"start":346.90999999999997,"text":"换句话说，电话让表层接触变得轻而易举。这可能成为建立更有意义的人际关系的起点，也可能取而代之。就获取知识而言，大型语言模型同样带来了这种诱惑。浅尝辄止的了解变得毫不费力。我们会让它催化更深入的研究和理解，还是让它取而代之？"}],[{"start":368.55999999999995,"text":"选择权在我们手中。这样说来，这几乎成了一个道德问题。我们不难想象，斯克鲁塔普会如何看待这一点。"}],[{"start":377.3399999999999,"text":"亲爱的虫木德 (Wormwood)："}],[{"start":379.1599999999999,"text":"听说这名患者已经迷上了这台机器，我很高兴。但不要试图让他相信机器不会出错。面对压倒性的反面证据，这种粗暴的做法撑不了多久。"}],[{"start":391.4199999999999,"text":"你必须更加隐晦。他会学会对此产生不信任，没错，但这种不信任可以停留在理论层面。从我们的角度看，这种不信任很容易发酵成犬儒主义，而这正是再好不过的状态。必须避免让他追问具体事实。我们希望他安于现状，而不是保持好奇。"}],[{"start":412.2699999999999,"text":"要让他觉得，事实核查是一种迂腐且低效的做法，不值得他屈尊去做。让他们尽情享受自己的懒惰，并把它称作生产力。人类长期以来一直倾向于把“有一个答案”和“找到真相”混为一谈。这就是游戏规则。"}],[{"start":429.7199999999999,"text":"疼爱你的舅舅，"}],[{"start":431.5399999999999,"text":"斯克鲁塔普"}],[{"start":433.3599999999999,"text":"第一时间了解我们的最新报道——关注《FT周末杂志》(FT Weekend Magazine) X 以及FT周末版 Instagram"}]],"url":"https://audio.ftcn.net.cn/album/a_1791350054_4987.mp3"}