{"text":[[{"start":7.49,"text":"作者是高盛(Goldman Sachs)董事长兼首席执行官"}],[{"start":11.41,"text":"胰腺癌是医学领域最致命的敌手之一，往往发现时已为时太晚。但今年4月，梅奥诊所(Mayo Clinic)展示了AI如何改变这一局面。其AI模型识别出了73%的尚未确诊胰腺癌病例，最早比正式确诊提前三年。这让原本几乎被判死刑的患者有了及早治疗的机会。"}],[{"start":34.41,"text":"我从未掩饰自己对AI造福社会的乐观态度。疾病防治只是其中一个前沿领域。未来几十年，AI还将在成千上万个领域取得进展，有些是渐进式改良，有些则将带来根本性变革。"}],[{"start":50.78,"text":"问题不在于AI是否会继续进步。它一定会。真正的问题是，我们能否以正确的方式推动这一进步。从新药研发、粮食生产，到供应链、交通运输和创意产业，AI的潜在回报之大，不容忽视。我们还需要最强大的前沿AI模型来维护国家安全利益，抵御形形色色的恶意行为者。"}],[{"start":75.03,"text":"我们不应遏制这种进步，而应确保它沿着正确的方向发展。"}],[{"start":79.87,"text":"遗憾的是，围绕AI的公共讨论似乎陷入了一种错误的二元对立：要么不设护栏地一路狂奔，要么以严苛限制冻结创新。但有三个关键责任层面值得关注：政府负责制定规则，开发者负责打造安全的模型，还有最容易被忽视的一环——部署AI模型的企业。正是这些企业决定将模型用于业务流程的哪个环节、赋予它多大权限，以及一旦出错由谁负责。"}],[{"start":108.25,"text":"有人建议将银行监管框架直接移植到AI监管中。我认为这条路走不通。AI面临独特的技术挑战，部署方式不同，发展速度也快得多。我并不是主张放松对AI的监管，让它受到比银行更少的审查。我的意思是，监管必须针对AI的特点量身设计，而不能照搬其他行业的现成模式。"}],[{"start":134.62,"text":"我每年都会与数百位首席执行官交谈，在我看来，如今他们每个人实际上都在经营一家AI公司。和高盛(Goldman)一样，这些企业正在将这项技术部署到各项业务中，并大规模打造智能体。由此带来的收益将十分巨大，但相应的运营风险也不容忽视——许多企业此前并未管理过这类风险，而金融机构在这方面已有数十年经验。"}],[{"start":160.74,"text":"在高盛，我们遵循一套原则来进行风险管理。这些原则不仅值得AI开发者借鉴，也适用于AI部署方，也就是正在将AI融入业务的大大小小的企业。"}],[{"start":174.02,"text":"首先，责任必须落实到人。金融公司数十年来一直在使用机器学习运行自动化交易平台。交易出了问题，不能把责任推给技术，这早已成为业内共识。具体决策者必须为其系统承担的风险及产生的结果负责。"}],[{"start":193.88,"text":"第二，必须认清交易对手风险。 企业需要评估并了解模型开发者可能给自身带来的风险，同时避免过度依赖单一供应商。AI系统必须接受独立审查，保留完整的文档记录，并受到持续监测。随着系统能力不断演进，企业还须定期重新评估相关风险。"}],[{"start":217.49,"text":"第三，开展压力测试。 企业在决定如何部署AI时，应全面审查风险，在严峻但符合现实的情景下对模型进行压力测试。这包括在受控环境中主动寻找模型可能出现的故障、偏离预期目标的行为，以及意外后果。众所周知，银行需要按监管要求开展压力测试。但鲜为人知的是，银行也会定期对自身业务流程和模型进行压力测试。优秀的企业也会将AI压力测试常态化。"}],[{"start":251.23000000000002,"text":"最后，应奖励主动上报风险的行为。 隐患可能出现在企业内部任何环节。员工主动提出疑虑应受到肯定和鼓励。企业还应建立明确的风险上报渠道，让各级员工都能及时反映问题。所有部署AI的企业都必须将这种做法融入企业文化的核心。"}],[{"start":274.45000000000005,"text":"在AI时代胜出的公司，既不是行动最快的，也不是观望最久的，而是那些建立起相应规范、能够以可信且有把握的方式大规模部署AI的公司。如果我们把这件事做好，回报可能体现在更早发现疾病、重大科研发现比预期提前数年取得，以及各行各业生产率持续提升带来的累积收益。"}],[{"start":297.00000000000006,"text":"我们面临的选择，不是在创新与安全之间二选一，而是在缺乏有效治理的试验，与建立在问责、信任和信心基础上的进步之间作出选择。我们完全可以迫切期待这样的未来，同时以严谨审慎的态度走好通往未来的每一步。"}]],"url":"https://audio.ftcn.net.cn/album/a_1792735784_7029.mp3"}