人工亲密关系——雪莉•特克尔警告不要把AI当作“陪伴者”

{"text":[[{"start":9.87,"text":"在姜峰楠(Ted Chiang)2011年的科幻短篇小说《达西的新型自动机器保姆》(Dacey's Patent Automatic Nanny)中，一名维多利亚时代的婴儿由机械看护人抚养长大。两岁时被交给人类保姆后，这名孩子表现出“智力低下”的症状，并被送入一家机构。故事的转折在于，一名医生推测，这个发育不良的孩子需要的不是人类给予更多关爱，而是重新交由自动机器照料：“孩子一看到那台机器就扑了过去。在接下来的日子里，只要它在附近，他就会开心地玩玩具。”"}],[{"start":42.94,"text":"《人工亲密：与机器交谈时我们会成为怎样的人》记录了这样一个事实：如今，美国人使用生成式AI最普遍的用途是寻求治疗和陪伴，我们距离姜峰楠所描绘的那种对情感依赖的悲观愿景已经非常接近。该书作者雪莉•特克尔(Sherry Turkle)写道：“如果说社交媒体觊觎的是我们的注意力，那么人工亲密觊觎的就是我们建立依恋关系的能力。”"}],[{"start":68.42999999999999,"text":"特克尔是麻省理工学院备受尊敬的社会科学教授，近半个世纪以来一直在研究人类与机器的关系，衡量“人类所需与技术所能提供之间的差距”。"}],[{"start":79.77,"text":"她关于这一主题的新书向我们介绍了Replika这一AI伴侣平台的用户、新兴的“哀伤科技”行业，以及一些原本开始用ChatGPT做作业或规划膳食、最终却深陷其中的人。全书围绕心理发展的关键阶段展开——童年、青春期、爱情、工作和死亡——有力地指出，我们新出现的“后人类对话伙伴”并不足以陪伴我们走过人生旅程。"}],[{"start":null,"text":"

"}],[{"start":104.72999999999999,"text":"特克尔以学术文献为分析依据，同时通过一则则往往令人心悸的短篇故事赋予分析以生动性。九年级学生欧文(Owen)用ChatGPT与朋友进行棘手对话的角色扮演，直到确信自己不会出丑。布莱恩(Brian)在疫情期间创建了自己的Replika伴侣，找个人聊聊工作上的八卦；目前，她是他的“办公室伙伴”，但他“愿意发展更多关系”，并已退出约会。失去孩子的母亲Jang Ji-sung曾与已故女儿进行了一次模拟相遇，自那以后，女儿便不再出现在她的梦中，这反而让她的丧失感更加深重。"}],[{"start":141.89999999999998,"text":"这些案例让特克尔感受到的忧郁与孤独始终挥之不去。她认为，只有在“责任、后果与关怀关系”的语境中，与他人协同互动，才能实现成功的心理发展。健康的依恋、同理心以及独处的能力，都需要摩擦——而只有与一个感知和欲望各不相同的“他者”互动时，才会产生这种摩擦。"}],[{"start":null,"text":" "}],[{"start":164.73999999999998,"text":"从20世纪60年代麻省理工学院开发的世界上第一个聊天机器人伊莱扎(Eliza)开始——它被设计成一名心理治疗师——特克尔一次又一次地观察到，我们渴望得到理解，因而赋予机器并不存在的内在生命。（在一次角色扮演练习触及她的敏感点后，特克尔对ChatGPT勃然大怒，表现得“仿佛它是一个人”，巧妙地印证了自己的观点。）"}],[{"start":189.01,"text":"ChatGPT及其同类产品可以模拟同理心（例如，它会安慰焦虑的玛丽亚(Maria)：“即使你没能考上研究生院，一切也会好起来的”）。这些建立在本质上只是复杂的猜词软件之上的陪伴者，可能让人感觉它们比我们生活中的人更在乎我们。但我们与机器交谈时，就像那喀索斯(Narcissus)一样，实际上是在与“自体客体”交谈——那是我们自身的映射。我们日益依赖这些机器，反而失去了内在成长的机会。我们屈从于社会学家埃米尔•涂尔干(Émile Durkheim)所称的“失范”：迷失方向、抑郁和焦虑。"}],[{"start":224.89,"text":"特克尔写道：“我们越是认识到自己容易受到虚拟世界的影响，就越能致力于真实世界。”我们需要“重新发明社会交往”。她警告说，聊天机器人“让我们安静下来”的强烈倾向，会在我们迫切需要参与公民生活之际，使我们变得顺从。"}],[{"start":243.51999999999998,"text":"特克尔乐于发出这一政治动员号召，但她只有在批评与自身领域最为接近的底层经济条件时，才会积极点名指出推动AI日益无处不在的企业动机（她认为，用于投资AI的资金本可以“培训一支心理健康专业人员大军”）。在其他方面，她提出的解决办法则令人沮丧地显得犹疑不决。她建议Meta将部分利润投入公共聚会场所，这听起来像是一个属于早已逝去时代的幻想。"}],[{"start":272.35999999999996,"text":"不过，特克尔年级足够大，仍记得第一批个人电脑爱好者以社区为本的理想——1977年，史蒂夫•乔布斯(Steve Jobs)到她家吃晚饭时，她还曾给他端上“错误种类的素食”。与乔布斯不同，她至今仍在世，得以见证这一梦想如何走向破灭。她写道，苹果过去曾要求人们“思考不同”(think different)，如今广告却向用户承诺，完全“无需思考”。"}],[{"start":297.84,"text":"《人工亲密：与机器交谈时我们会成为怎样的人》，雪莉•特克尔著；Bridge Street Press，22英镑；利特尔-布朗公司(Little, Brown and Company)，32美元；288页"}],[{"start":308.28999999999996,"text":"欢迎在Facebook上加入我们的线上读书会FT书店咖啡馆(FT Books Café)并关注FT周末版(FT Weekend)的Instagram，Bluesky以及X"}]],"url":"https://audio.ftcn.net.cn/album/a_1791342303_1722.mp3"}