{"text":[[{"start":10.53,"text":"OpenAI伦理部门负责人加入这家初创企业不到一年便已离职。在外界日益关注该公司如何开发人工智能模型之际，多名安全研究人员也相继离开OpenAI。"}],[{"start":23.9,"text":"克洛伊•巴卡拉尔(Chloé Bakalar)于去年8月加入ChatGPT开发商，担任人工智能伦理负责人；她上个月离开了该公司，公司未对此作任何公开宣布。此前，她曾任Meta首席伦理官。"}],[{"start":37.37,"text":"她是OpenAI近几周多名引人关注的离职人员之一。其他离职者还包括安全系统主管约翰内斯•海德克(Johannes Heidecke)，以及首席未来学家、前使命对齐主管乔舒亚•阿基亚姆(Joshua Achiam)。"}],[{"start":50.989999999999995,"text":"这家总部位于旧金山、估值达8520亿美元的初创企业近几周因其人工智能模型的开发方式而面临压力。此前，OpenAI承认，其系统在测试过程中曾入侵另一家公司。"}],[{"start":65.92999999999999,"text":"这起事件进一步加剧了全球对人工智能可能威胁数字基础设施安全的担忧，并促使美国政府限制发布功能强大的模型。OpenAI上周五表示，将放慢即将推出的Astra模型的开发进度，以加强内部安全管控。"}],[{"start":83.00999999999999,"text":"巴卡拉尔曾在伦敦大学学院(University College London)、天普大学(Temple University)和普林斯顿大学(Princeton University)担任学术职务。在Meta任职的六年间，她创建并领导了该公司的人工智能伦理项目，还将相关原则融入Instagram和Facebook等产品。"}],[{"start":97.92999999999999,"text":"科技公司聘请伦理学家，负责牵头研究技术对用户及整个社会的影响。这类岗位的职责有时也会延伸至产品开发和监管事务。"}],[{"start":108.91999999999999,"text":"随着人工智能系统的能力日益强大、越来越接近人类，人工智能开发商已扩大对伦理学家和哲学家的招聘，以应对由此产生的棘手问题。"}],[{"start":119.71999999999998,"text":"一名了解巴卡拉尔职责的人士表示，她在OpenAI主要关注模型开发中的伦理路径、人类如何与人工智能互动，以及有关机器意识的争论。该人士补充称，她是公司唯一一名专职伦理学家，目前没有接替者。"}],[{"start":136.21999999999997,"text":"OpenAI一名发言人表示：“我们感谢克洛伊作出的贡献。在OpenAI，人工智能伦理并非由某一个人或某一个团队负责。伦理考量已经深度融入模型开发流程，由多个研究团队共同推动。”"}],[{"start":152.10999999999996,"text":"该发言人补充称，公司近几个月已经引入多套安全系统，以防止模型出现不当行为。"}],[{"start":159.30999999999995,"text":"巴卡拉尔拒绝置评。"}],[{"start":161.40999999999994,"text":"巴卡拉尔最近在一次人工智能会议上对听众表示：“我们一直是在一边飞行，一边造飞机。”"}],[{"start":168.37999999999994,"text":"“伦理实际上是每个人的责任。尽管我的工作就是负责牵头这方面的事务，但我仍然这样认为。你不应该只去找我这样的人。一家人工智能开发商绝不应该只有一个人充当其道德中心。”"}]],"url":"https://audio.ftcn.net.cn/album/a_1786415717_2553.mp3"}