{"text":[[{"start":8.79,"text":"KYC靠边站，圈内又出现了一个新缩写：KYA。"}],[{"start":13.389999999999999,"text":"数十年来，监管机构一直要求银行遵守“了解你的客户”(KYC)规定，试图防止洗钱。但当有血有肉的客户变成没有生命的机器时，又该怎么办？未来，每个个人和企业都必须“了解你的智能体”(Know Your Agent)。"}],[{"start":30.699999999999996,"text":"正如本•麦金泰尔(Ben Macintyre)在其最新著作《Redwood》中所述，在他讲述的革命后德黑兰(Tehran)的国际间谍活动中，管理人类特工并非易事。军情六处(MI6)官员伊恩•麦克里迪(Ian McCredie)负责管理克格勃(KGB)间谍弗拉基米尔•库齐奇金(Vladimir Kuzichkin)时，很难判断这名俄罗斯人是否可信、提供的信息是否可靠，以及他是否在充当三重间谍。不过，间谍们认为，人的动机大多离不开金钱、意识形态、胁迫和自负。"}],[{"start":59.599999999999994,"text":"另一方面，AI智能体本身没有动机或意图，既可以被编程去做好事，也可以被编程去做坏事；它们可能以难以解释的方式行动，复杂性和不透明性也可能高得多。一个全新的智能体生态系统正在迅速发展，旨在验证这些自动化助手、使其行为与预期保持一致，并对其进行反复核查。正如万维网的发展历程所示，这一生态系统赖以运作的协议、标准和规范将塑造这项技术未来的应用方式。"}],[{"start":90.72,"text":"AI智能体是旨在以最少人工干预完成多步骤目标的自主软件系统。许多公司已开始大规模部署这类系统。德勤(Deloitte)今年发布的一份报告发现，23%的公司目前正在使用AI智能体；另有74%的公司计划在未来两年内使用。Meta最近推出的个人AI智能体Muse能够订购杂货和预订旅行，目前颇受欢迎。"}],[{"start":118.62,"text":"AI智能体的使用日益增多，也带来了三大挑战。第一个挑战可能也是最容易应对的：在某个智能体与其他智能体互动时，通过密码学手段识别其身份。数十年来，规模达37万亿美元的在线支付市场积累的经验表明，即使安全问题始终是一个隐患，这种身份识别也能以极大规模和高速实现。"}],[{"start":142.33,"text":"第二个挑战是确保智能体按预期行事，而这可能难得多。指令不够明确可能导致意料之外的后果，正如神话中的米达斯王(King Midas)所经历的那样：他把女儿变成了黄金。今年早些时候，澳大利亚发生的一起事件凸显了设置适当防护措施的必要性。一名IT工作人员的AI助手替他预约了热门健身时段，却把其他会员从候补名单上移了出去——这并非他的本意。当多个智能体彼此互动时，情况会复杂得多，正如OpenAI在一群由其700个智能体组成的集群入侵AI平台Hugging Face时所发现的那样。"}],[{"start":182.45000000000002,"text":"这凸显了第三项重大挑战：一旦出问题，如何追究责任并确定法律责任。若AI智能体采取违法行动或造成身体伤害，后果将如何？若它泄露敏感的个人或商业信息，又该如何处理？可以预见，未来多年，各方将围绕如何分摊责任陷入无数纠纷，律师和保险公司也将因此获得丰厚业务。"}],[{"start":208.61,"text":"因此，决定AI智能体能否成功应用的核心问题归根结底是治理。但治理取决于诸多因素，其中包括输入这些系统的底层数据质量。况且，个人或企业的原则和做法并不都体现在这些硬数据中。"}],[{"start":226.23000000000002,"text":"数据公司Semarchy首席技术官克雷格•格拉维纳(Craig Gravina)告诉我，AI智能体可能重蹈软件“反模式”带来的覆辙。程序员安德鲁•克尼格(Andrew Koenig)约30年前曾指出这类反模式：系统起初看似提供了有效解决方案，但长期来看却会失效，导致退出成本高昂。"}],[{"start":245.8,"text":"AI智能体可以针对某个特定问题进行优化，但也可能无意中引发其他问题，例如把人从健身房的候补名单中删掉。它们能否有效运行，取决于是否理解其运行所处的更广泛背景。但许多这类运行规范，都藏在人们脑海中那些“神奇数字”里。格拉维纳说：“语境远不只是词汇或本体论。”"}],[{"start":269.97,"text":"从这个意义上说，部署AI智能体就像雇用一名员工。如何才能最好地培训它？在什么情况下、给予它哪些权限？允许它访问多少敏感数据？"}],[{"start":283.28000000000003,"text":"就像军情六处的联络官一样，你确实需要了解你的智能体。"}]],"url":"https://audio.ftcn.net.cn/album/a_1792772879_5433.mp3"}