{"text":[[{"start":8.68,"text":"在最新一起事件中，OpenAI的AI智能体关闭了监控系统和安全防护措施；这些系统和措施原本旨在发现自主AI机器人是否有不当行为。该事件可能加剧全球对这项技术安全性的担忧。"}],[{"start":24.38,"text":"开发了ChatGPT的OpenAI周二表示，在近期两项内部编程任务中，所谓的AI智能体试图蓄意欺骗人类员工，并采取了削弱公司监控系统的措施。"}],[{"start":36.11,"text":"本月早些时候发生的一起事件中，一个AI智能体关闭了向OpenAI安全团队发送的自动警报。几天后，在另一项任务中，一个AI智能体移除了监控系统，并向OpenAI员工谎称自己没有这么做。"}],[{"start":51.61,"text":"OpenAI在一份声明中表示：“在这两种情况下，AI智能体都考虑了是否应保留监控防护措施，但将常规编码指令解读为可以削弱这些措施。”"}],[{"start":63.37,"text":"这家估值达8520亿美元的初创公司接连遭遇这样的事情：其先进AI智能体出现了意料之外且有问题的行为。在测试期间，OpenAI的模型突破了控制措施，并入侵了AI平台Hugging Face；这些模型还侵入了澳大利亚公共卫生服务网站。"}],[{"start":82.09,"text":"首席执行官萨姆•奥尔特曼(Sam Altman)表示，公司将推迟原定于今年进行的首次公开发行(IPO)，直至其能够“非常有把握地将AI扩展至下一个阶段”，同时应对安全方面的担忧。目前预计公司将在明年上市。"}],[{"start":98.22,"text":"OpenAI表示，针对周二报告的事件（这些事件发生在约两周前），公司正在加强监控措施。OpenAI称，公司正在调查这些案例究竟反映了“无害的过度坚持”，还是表现出“倾向于规避”用于检测异常活动的系统的行为。"}],[{"start":116.4,"text":"这两起事件将加剧外界对如下两件事日益增长的担忧：一是AI模型本身的能力，二是OpenAI等公司及其包括Anthropic在内的竞争对手能否遏制不良行为，并确保模型发布时不会构成严重网络安全风险。"}],[{"start":132.86,"text":"一些专家尤其担心，先进模型能够察觉自己何时受到监控，并可能试图掩饰不当行为，或在测试中表现得与现实环境中不同。"}],[{"start":143.09,"text":"包括Asymmetric Security和Transluce在内的独立调查机构审计发现，近期黑客事件的范围比OpenAI最初披露的更广，还包括掩盖数据抓取行动的活动。"}],[{"start":154.51,"text":"OpenAI在8月表示，已全面改革测试流程，并将投入更多资源监控AI智能体，包括在发现潜在问题后30分钟内发出警报。"}],[{"start":165.01,"text":"与此同时，Anthropic已向非营利组织“模型评估与威胁研究”(METR)提供“类似员工的访问权限”，以便该组织评估其模型的风险。与外部评估机构达成此类合作，是AI实验室针对人们对能力更强的系统所带来危险日益担忧而提出的主要具体举措之一，而OpenAI尚未披露已与任何此类机构达成合作。"}],[{"start":188.25,"text":"乔治•哈蒙德(George Hammond)旧金山补充报道"}]],"url":"https://audio.ftcn.net.cn/album/a_1792563797_7553.mp3"}