{"text":[[{"start":7.14,"text":"一个对人工智能几乎一无所知的人，应该如何思考它对人类的影响？虽然借用犹太圣贤迈蒙尼德(Maimonides)探讨宗教与哲学关系的著作（即《迷途指津》(The Guide for the Perplexed)——译者注）的名称有些冒昧，但并非荒谬。毕竟，即使是最伟大的圣贤也无法完全理解神性。因此，我不理解人工智能的影响，不应该阻止我努力去理解它。或许我的探索也能帮助到其他人。"}],[{"start":34.47,"text":"那么，就让我们开始吧。我想探讨的问题是：“人工智能是福、是祸还是泡沫？”此外，一旦我们思考了这些问题的答案，人类是否能够做出切实可行的选择，确保人工智能更多地是福而非祸？还是说不管愿不愿意，不管人工智能这辆战车要驰向何方，我们注定要被它拖拽在后面？"}],[{"start":57.66,"text":"关于人工智能是否仅仅是一个泡沫这个问题的答案，也将有助于我们回答这些问题。那么，人工智能如果仅仅是一个泡沫，又意味着什么呢？有两种可能性。"}],[{"start":69.92999999999999,"text":"一种可能是，确实有重要的事情正在发生。但市场无法预估回报，因此陷入了投机狂热。反过来，这又助长了不可持续（且在某种程度上无利可图）的投资激增。迟早，这个泡沫会破裂，股价会暴跌，许多新老企业会破产，投资也会退潮。但我们会得到有用的基础设施，就像19世纪铁路繁荣和20世纪90年代互联网泡沫破裂后一样：前者是铁轨，后者是光纤。这样的泡沫可以改变世界。"}],[{"start":103.10999999999999,"text":"另一种可能是，人工智能根本就是无稽之谈。18世纪初法国和英国的密西西比泡沫和南海泡沫就是很好的例子：它们破裂了，造成了一些损失，但几乎没有带来什么改变。"}],[{"start":116.85999999999999,"text":"那么，人工智能领域正在发生的事情究竟是不是泡沫？如果是，又属于哪种泡沫呢？我（暂时）认同的共识是：人工智能是实实在在的。至于我们是否如谷歌(Google) DeepMind的德米斯•哈萨比斯(Demis Hassabis)所言，正处于通用人工智能的门槛，我并不清楚。但如今的模型看起来确实令人印象深刻，尤其是在它们充当“智能体”时。"}],[{"start":142.82,"text":"此外，正如风险投资人鲁本•多明格斯•伊巴尔(Rubén Domínguez Ibar)在其通讯《人工智能角》(The AI Corner)中所指出的，一些供应商，尤其是Anthropic，正在实现收入的大幅增长，这有助于解释首次公开发行(IPO)中预期的高估值。因此，市场确实存在泡沫，但似乎是有现实基础的。"}],[{"start":162.07,"text":"有人将英伟达(Nvidia)股价的惊人飙涨与思科(Cisco)在互联网泡沫时期的类似表现进行了比较。但他们注意到一个区别：英伟达的盈利飙升，而思科在截至2000年7月的两年内净利润仅翻了一番。此外，彼得森国际经济研究所(PIIE)的分析表明，人工智能已经给美国实际国内生产总值(GDP)带来了巨大的隐性增长。"}],[{"start":185.89999999999998,"text":"我们无法断言市场对当前和未来人工智能领军企业盈利能力的判断是否“正确”。我们如今看到的英伟达的盈利（甚至Anthropic的营收)，在投资热潮和人工智能炒作退去后，也有可能无法持续。但人工智能并不只是泡沫，它具有现实基础。"}],[{"start":205.51,"text":"这就引出了“是福是祸”的问题。我就此与ChatGPT（还能和谁呢？）进行了一番讨论。经过几番来回交流后，我们最终列出了人工智能最主要的益处和害处，如下："}],[{"start":219.04,"text":"首先是益处：医疗保健改善；科学进步加速；生产率大幅提升；教育大规模普及；气候和清洁能源领域取得更快进展；可及性和包容性提升（语音转文字和自动翻译）；公共服务改善；交通运输更快捷，工作环境更安全；创造力和文化表达得到促进；全球获取人类知识的渠道得到改善。"}],[{"start":242.14999999999998,"text":"然后是害处：人类失去控制权和问责能力；出现可致人死亡的新型武器（尤其是病原体，但也包括其他武器，其中一些可能落入恐怖分子之手）；发生大规模失业；权力高度集中于危险人物手中；大规模监控和威权控制；虚假信息和操纵增多；网络安全遭遇巨大威胁；打着“客观”幌子的偏见与歧视变得固化；人类自主能力和技能退化；以及资源密集型系统带来环境代价。"}],[{"start":271.72999999999996,"text":"我们应当如何看待这些（完全有可能发生的）清单？我的第一个结论是，人工智能并非普通的“通用技术”。如果它按照目前看似可能的方向发展，它或许几乎会改变一切：人工智能确实是关乎人类存续的。如果人类拥有任何集体理性（事实上并没有），并且有能力阻止自我（事实上也没有），那么我认为，人类会暂停这一切。"}],[{"start":297.85999999999996,"text":"第二个结论是，人工智能不可避免地在企业与各国政府当中引发了竞争。我的假设是，凡是这种技术能够实现的能力，最终都会被人类付诸实践。因此，我们将看到围绕福与祸同时展开的竞赛。"}],[{"start":314.50999999999993,"text":"第三个结论是，虽然人们对核扩散和新药普及进行了相对成功地管控，但这不能成为先例。因为人工智能不会像核武器（迄今）那样，仅仅掌握在国家手中，也不像药物那样属于单一类别的产品。人工智能具有多种用途。"}],[{"start":332.0999999999999,"text":"ChatGPT建议，人类不应再将技术能力等同于进步，进步应当意味着在“安全、自由和正当性”条件下实现繁荣。教皇利奥(Pope Leo)也持相同观点：他在通谕中表示，应当为了“共同的善”而建设。但这是否可能？如果可能，又该如何实现？我将在下周讨论这个问题。"}],[{"start":353.81999999999994,"text":"译者/何黎"}]],"url":"https://audio.ftcn.net.cn/album/a_1780484497_3715.mp3"}