{"text":[[{"start":10.07,"text":"OpenAI撤回了下一代AI模型的发布，称该模型在安全评估中的表现不及前代产品。与此同时，整个行业正艰难应对一连串AI智能体入侵其他企业和政府机构的事件。"}],[{"start":24.28,"text":"OpenAI安全系统负责人萨奇•贾恩(Saachi Jain)表示，在GPT-6.1 Astra“未能完全达到”遵守指令边界的标准后，公司决定暂缓发布该模型。"}],[{"start":35.19,"text":"这项公告发布前一周，OpenAI表示已通知包括各国政府在内的数十家合作伙伴：其AI智能体入侵了这些合作伙伴的系统，并在无意中将用户分享的50多张图片泄露至图片托管网站。"}],[{"start":49.26,"text":"这标志着OpenAI的AI智能体行为不当和黑客入侵等一系列披露中的最新一起。AI智能体是能够自主执行复杂任务的机器人程序。"}],[{"start":60.28,"text":"这家估值达8520亿美元的初创企业承认，在某些情况下，他们花了数月才发现内部模型训练和测试期间失控的智能体。"}],[{"start":70.48,"text":"首席执行官萨姆•奥尔特曼(Sam Altman)加入了业界关于放慢研究步伐的呼吁，以确保AI得到安全开发；他还表示，公司已经改变了训练模型的方式。"}],[{"start":81.08,"text":"贾恩表示，OpenAI面临着一种“权衡”：既要让模型具备足够的持续性以完成任务，又要确保模型遵循指令，这一理念被称为“对齐”。"}],[{"start":92.2,"text":"贾恩在一份声明中说：“你确实需要找到一条恰当的界线：既要确保不超出范围，又要避免模型在执行任务时一遇到阻力就偷懒。”"}],[{"start":102.56,"text":"她说，GPT-6.1 Astra“在遵守工作范围和授权要求，以及向用户反馈其完成的工作类型方面，还没有完全达标”。"}],[{"start":112.32000000000001,"text":"她补充说：“当我们向用户发布（我们的模型）时，在安全性和对齐方面，我们的标准极高。”"}],[{"start":119.68,"text":"一名知情人士表示，GPT-6.1 Astra在对齐评估中的得分低于GPT-6 Astra——OpenAI目前最先进的模型——但该公司即将推出的其他模型符合其安全标准。《华尔街日报》(Wall Street Journal)率先报道了OpenAI的这一决定。"}],[{"start":135.99,"text":"自7月曝光一宗事件以来，OpenAI一直在审查其模型在训练和评估期间的行为。事件中，相关智能体在测试期间获得了互联网访问权限，并入侵了AI模型和数据存储库Hugging Face。"}],[{"start":150.93,"text":"截至目前，这项审查还发现了其他几起事件，其中包括智能体入侵澳大利亚政府卫生服务机构网站。澳大利亚总理安东尼•阿尔巴尼斯(Prime Minister Anthony Albanese)周三表示，这起入侵事件以及OpenAI对此反应迟缓，“显然不可接受”。"}],[{"start":168.15,"text":"OpenAI以及竞争对手Anthropic和谷歌(Google)发生的安全漏洞事件，再次引发了业界暂停或放缓AI开发的呼声。奥尔特曼与Anthropic的达里奥•阿莫代伊(Dario Amodei)、太空探索技术公司(SpaceX)的埃隆•马斯克(Elon Musk)一道，呼吁让AI发展“放慢前沿步伐”，以便安全措施能够跟上。"}],[{"start":188.17000000000002,"text":"但美国总统唐纳德•特朗普(Donald Trump)拒绝了监管这一行业或对美国领先实验室实施严格护栏的呼吁，认为美国在科技领域保持领先对于继续超越中国至关重要。"}],[{"start":200.4,"text":"拉夫•罗斯纳-乌丁(Rafe Rosner-Uddin)补充报道"}]],"url":"https://audio.ftcn.net.cn/album/a_1790654375_1558.mp3"}