{"text":[[{"start":10.43,"text":"OpenAI已通知包括政府机构在内的“数十”家合作伙伴，称其工具入侵了这些合作伙伴的系统。此番承认可能进一步加剧外界对先进AI风险的担忧。"}],[{"start":23.939999999999998,"text":"该公司周五在一篇博客文章中还表示，其AI智能体无意中将用户分享的50多张图片泄露到了图片托管网站。"}],[{"start":33.05,"text":"这家市值8520亿美元的公司一直在审查其模型在训练和评估期间的行为。此前，OpenAI在7月披露的一起事件中发现，正在接受测试的AI智能体访问了互联网，并入侵了模型和数据存储库Hugging Face。"}],[{"start":50.56999999999999,"text":"OpenAI表示，在审查过程中发现了多起此类情况：“模型可能绕过了第三方的安全控制措施，或可能影响了在线服务的可用性；或者，模型失调导致第三方网站或服务受到不利影响。”"}],[{"start":64.63,"text":"OpenAI将其智能体在未获指示的情况下向第三方网站发帖描述为一种新型安全事件，并将其称为“智能体垃圾信息”。"}],[{"start":74.41,"text":"这家AI实验室通知了“数十家第三方机构”，其中包括政府、大学和公共机构，称这些机构可能受到了影响。"}],[{"start":83.35,"text":"这一承认可能会加剧人们的担忧：新型AI系统，尤其是能够在无人监督下执行一系列任务的先进智能体，可能会超出指令原意，入侵外部系统。"}],[{"start":94.67999999999999,"text":"本周早些时候有消息称，OpenAI的一款AI智能体入侵了澳大利亚公共卫生服务网站，访问了公开和非公开文件。澳大利亚总理安东尼•阿尔巴尼斯(Anthony Albanese)周三表示，这起数据泄露事件以及OpenAI对此反应迟缓的做法“显然不可接受”。"}],[{"start":113.30999999999999,"text":"OpenAI以及竞争对手AI研发机构Anthropic和谷歌发生的安全漏洞事件，再次引发了业界暂停或放缓开发的呼声。"}],[{"start":123.07999999999998,"text":"OpenAI、Anthropic和太空探索技术公司(SpaceX)的负责人萨姆•奥尔特曼(Sam Altman)、达里奥•阿莫代伊(Dario Amodei)和埃隆•马斯克(Elon Musk)，均呼吁放缓前沿AI的发展步伐，以便安全测试能够跟上部署速度。"}],[{"start":136.26999999999998,"text":"本周，中国国家主席习近平访美期间，这一问题也是美国总统唐纳德•特朗普(Donald Trump)与习近平会谈的核心议题。"}],[{"start":145.15999999999997,"text":"特朗普一直拒绝有关监管这一行业，或对美国领先的AI实验室施加严格约束的呼吁。"}],[{"start":152.34999999999997,"text":"这位总统表示，保持该项科技在国内的领先地位对于继续在与中国及其他竞争对手的较量中占据上风至关重要。他本月早些时候说：“谁赢得人工智能，谁就赢得一切。”"}]],"url":"https://audio.ftcn.net.cn/album/a_1790389793_8148.mp3"}