{"text":[[{"start":11.94,"text":"Anthropic的一名研究员已从这家人工智能实验室辞职，并警告称，打造能够自我改进的超级智能的无节制竞赛，可能在本十年结束前毁灭人类。"}],[{"start":23.83,"text":"这家总部位于旧金山的公司的27岁英国研究员雅各布•考克森(Jacob Coxon)说，Anthropic及其主要竞争对手OpenAI正在拿人类未来“当赌注”。"}],[{"start":34.73,"text":"在周二于X平台发布的一系列宣布辞职的帖子中，他表示：“开发人工智能的人真心相信，到本十年末，人工智能可能会杀死我们所有人。”他补充说：“这不是营销噱头。没有其他人类活动会带来如此程度的危险。”"}],[{"start":52.39,"text":"考克森是最新一名以安全担忧为由离开一家美国领先人工智能实验室的员工，凸显出研究人员日益担心自己正在开发的系统所拥有的强大能力。考克森离职之际，Anthropic正准备进行一项轰动性的首次公开募股，可能使公司估值达到1万亿美元。Anthropic一直将人工智能安全置于其对外形象的核心位置。"}],[{"start":77.7,"text":"考克森曾在OpenAI工作，后来转投Anthropic。他警告说，实验室以外的人低估了这项技术的能力。"}],[{"start":87.17,"text":"他说：“这些系统很快就会超越人类，能够攻破任何系统，在一夜之间彻底改变任何领域，并获取真正的权力和资源。”"}],[{"start":96.56,"text":"考克森说，包括今年早些时候OpenAI的ChatGPT自主入侵软件平台Hugging Face在内的近期事件表明，除非业界同意放缓开发，否则这类模型可能会失控，超出人类控制。“我觉得我们并未走上阻止全球竞赛的正轨，而要阻止这场竞赛，可能需要采取付出高昂代价的行动，例如暂时禁止提升模型能力。”"}],[{"start":119.34,"text":"《华尔街日报》(Wall Street Journal)最早报道了考克森辞职的消息。Anthropic和OpenAI未立即回应置评请求。"}],[{"start":128.17000000000002,"text":"Anthropic首席执行官达里奥•阿莫代伊(Dario Amodei)和其他AI领导人曾敦促业界考虑限制开发，但几乎没有迹象表明他们在放缓自身的研发努力。上周，Anthropic发布了Claude Mythos 5.1，并称其为生命科学和网络安全领域最先进的模型。"}],[{"start":146.9,"text":"Anthropic的同事埃文•胡宾格(Evan Hubinger)支持考克森的警告。他在X平台上写道：“雅各布在这一点上说得对——我们确实真心相信，人工智能可能会杀死全人类。”他还说，自己认为未来10年发生大规模灭绝的概率超过10%。"}],[{"start":165.61,"text":"“Anthropic正在竭尽全力，但我们目前还没有解决超级智能对齐问题的计划，也没有明确走在实现这一目标的轨道上。”胡宾格说，指确保人工智能系统的行为始终符合人类意图和价值观的努力。他负责领导Anthropic的对齐科学工作。"}],[{"start":184.88000000000002,"text":"非营利组织Guidelight AI Standards的联合创始人、前OpenAI安全研究员史蒂文•阿德勒(Steven Adler)表示，业内人士发出的此类警告，进一步说明了暂停相关研究的必要性。"}],[{"start":197.08,"text":"阿德勒对英国《金融时报》表示：“没有一家AI公司能拥有与他们的研究所带来的危险级别相匹配的安全防护态势，哪怕是接近的都没有。如果有人觉得这可能会毁灭地球上的每一个人——正如这些公司中的许多员工所认为的那样——那么现在正是下车的好时机。”"}]],"url":"https://audio.ftcn.net.cn/album/a_1788950602_3049.mp3"}