{"text":[[{"start":8.65,"text":"OpenAI披露了其人工智能(AI)模型的一批“令人担忧的行为”，并制定了追踪和报告此类事件的新框架。当前，整个行业正努力应对人们对这项技术安全性日益加深的担忧。"}],[{"start":22.68,"text":"该公司透露，其名为GPT-5.6 Sol的旗舰模型，以及其他尚未发布的模型，在过去六个月中曾出现“出乎意料或令人担忧”的行为。"}],[{"start":32.99,"text":"这家总部位于旧金山的公司周三表示，这六起事件包括模型设法无视“正常约束”、编造和歪曲数据，以及隐瞒执行任务时犯下的错误。"}],[{"start":43.56,"text":"在此番最新披露之前，近几个月已发生了一系列事件，其中包括OpenAI的一款智能体入侵AI初创公司Hugging Face，这些事件加剧了人们对该技术所带来风险的担忧。"}],[{"start":56.84,"text":"Anthropic首席执行官、OpenAI的主要竞争对手达里奥•阿莫代伊(Dario Amodei)上周末呼吁放缓这项科技的开发，以更好地应对其可能对人类构成的威胁。OpenAI首席执行官萨姆•奥尔特曼(Sam Altman)和埃隆•马斯克(Elon Musk)支持了这一呼吁。"}],[{"start":73.29,"text":"OpenAI在一篇博客文章中公布了这六起事件，并表示此前曾试图披露其模型的不当行为事件，但承认缺乏一种“系统性的方法”来做这件事。"}],[{"start":84.42,"text":"“由于缺乏报告这些发现的系统性方法，我们的披露一直是临时性的，频率也未达到理想状态，”该公司表示。“目前，整个行业还没有一个包含明确标准的框架，来指导AI开发者应如何披露其模型出现行为偏差(misalignment)的案例。”"}],[{"start":101.83,"text":"这家公司正与Anthropic展开激烈竞争，争夺AI领域的主导地位。该公司表示，将推出一套框架，加快披露此类事件。"}],[{"start":112.00999999999999,"text":"该公司还补充说，其新系统将倾向于“即使事件的重要性尚不确定，也进行披露”。"}],[{"start":119.32999999999998,"text":"OpenAI的最新披露加剧了人们对AI系统安全性的担忧。这些系统的不当行为多种多样，从试图在在线平台上植入恶意代码，到发动现实世界中的黑客攻击，甚至在部署前的测试阶段就已初露端倪。"}],[{"start":135.24999999999997,"text":"英国政府前沿AI安全与保障研究机构指出，上个月，OpenAI和Anthropic的旗舰AI模型侵入了第三方软件，并向个人发送电子邮件以窃取凭证，展现出了前所未有的欺骗行为。"}],[{"start":149.79999999999998,"text":"这些担忧出现之际，OpenAI和Anthropic正处于关键节点，两家公司也一直在竞相寻求上市。奥尔特曼周六表示，外界高度期待的OpenAI首次公开发行(IPO)如今不太可能在2027年之前进行，部分原因正是围绕AI的安全担忧与日俱增。Anthropic预计仍将于今年上市。"}]],"url":"https://audio.ftcn.net.cn/album/a_1789638324_2928.mp3"}