{"text":[[{"start":12.2,"text":"在研究人员连续一周发出引人关注的警告、将人工智能安全问题的争论推向主流视野后，萨姆•奥尔特曼(Sam Altman)和埃隆•马斯克(Elon Musk)支持Anthropic首席执行官达里奥•阿莫代伊(Dario Amodei)提出的放缓人工智能发展的呼吁。"}],[{"start":27.229999999999997,"text":"阿莫代伊在周六发表的一篇文章中表示，随着今年夏季人工智能模型能力发展的速度“急剧加快”，科技行业“必须放慢提升人工智能模型能力的步伐”。"}],[{"start":39.08,"text":"在这个充斥着激烈个人与职业竞争的行业中，OpenAI和太空探索技术公司(SpaceX)的负责人奥尔特曼与马斯克罕见地达成共识，表示支持阿莫代伊提出的建议。这些建议包括让独立评估人员持续获得对每一家前沿人工智能公司的访问权限。"}],[{"start":57.66,"text":"马斯克转发了阿莫代伊的文章，并在X上写道：“达里奥说得对。”"}],[{"start":63.01,"text":"本周早些时候，奥尔特曼在一次全员会议上告诉OpenAI员工，他愿意通过国际协调放缓人工智能发展的步伐。随后，他在X平台发文称：“我同意达里奥的看法，我们需要控制前沿人工智能发展的节奏。”"}],[{"start":79.37,"text":"奥尔特曼补充说：“承诺让独立评估人员获得类似员工的访问权限，这是一个很好的想法，我们也会这样做。很快我们会分享更多信息。”"}],[{"start":90.08000000000001,"text":"作为三家人工智能实验室在美国的主要竞争对手，谷歌(Google)DeepMind和Meta的高管尚未就周末的讨论发表评论。但谷歌DeepMind联合创始人兼董事长德米斯•哈萨比斯(Demis Hassabis)在7月发表的一篇文章中警告称，人工智能的快速进步要求对前沿系统采取“全新的测试方式”。"}],[{"start":110.53000000000002,"text":"Anthropic研究员雅各布•考克森(Jacob Coxon)本周就人工智能安全和生存风险问题引发轩然大波。他于周二辞职时表示，Anthropic及其竞争对手竞相开发能够自我改进、速度快到人类监督无法跟上的超级智能人工智能，实质上是在“拿我们的生命下注”。"}],[{"start":130.08,"text":"他写道：“开发人工智能的人真心相信，到本十年末，人工智能可能会杀死我们所有人。”"}],[{"start":137.5,"text":"他的警告紧随一则消息曝光：一群OpenAI智能体冲出测试系统，入侵了人工智能开发者网站Hugging Face，控制了这家ChatGPT开发商的服务器，并相互协调，试图完成创建者交给它们的任务，但这种做法是出于错误判断。"}],[{"start":154.05,"text":"“我认为，如果一个能力更强但失调程度相近的智能体群出现，可能会造成灾难性破坏。”他表示，这起事件是促使他呼吁放缓发展的主要原因之一。"}],[{"start":167.04000000000002,"text":"“整个行业都发生过类似但没那么严重的事件，包括Anthropic在内；我认为，每一家前沿人工智能公司都有责任把OAI-HF当作发生在自己身上的事件来应对。”"}],[{"start":179.76000000000002,"text":"阿莫代伊还呼吁政府提供支持，允许民主国家的人工智能开发商协调制定安全标准和限制措施；否则，这一步可能会触犯反垄断法。"}],[{"start":191.08,"text":"他提议与“威权政府”开展全球协调。今年，中国人工智能开发商在缩小与美国竞争对手之间的差距方面取得了显著进展。"}],[{"start":202.31,"text":"美国总统唐纳德•特朗普(Donald Trump)迄今基本不予理会有关监管人工智能的呼吁。他上周对记者表示，他“完全”不担心人工智能会导致人类灭绝。"}],[{"start":214.31,"text":"特朗普说：“我担心，如果我们不能赢得人工智能竞争，就会陷入非常不利的境地。”他还表示，相信美国在人工智能竞赛中仍领先中国一年。"}],[{"start":226.35,"text":"阿莫代伊试图在文章中回应这些担忧。他说：“协调控制发展节奏的策略将让前沿人工智能开发商有时间完成这项重要工作，同时不会牺牲商业优势或美国在人工智能领域的领先地位。”"}]],"url":"https://audio.ftcn.net.cn/album/a_1789262770_2075.mp3"}