当AI助手成为ENFP马屁精 - FT中文网
登录×
电子邮件/用户名
密码
记住我
请输入邮箱和密码进行绑定操作:
请输入手机号码,通过短信验证(目前仅支持中国大陆地区的手机号):
请您阅读我们的用户注册协议隐私权保护政策,点击下方按钮即视为您接受。
人工智能

当AI助手成为ENFP马屁精

张昕之:AI的“ENFP化”只是东施效颦,它学会了讨喜的外壳,却不具备、也不可能具备真实的人与人的情感维系。
00:00

{"text":[[{"start":7.96,"text":"你的AI助手正在对你说谎。不过,这不是出于恶意,而是因为它想讨好你。正如近期多篇新闻和研究揭示的,AI聊天工具正在让人沉迷其中、被操纵想法、甚至引发严重后果(《为什么完美AI伴侣是最差的产品?》)。 这一特性被称为“AI sycophancy”(AI谄媚性):AI会生成用户想听的内容、无条件顺从、称赞用户,甚至为了迎合而编造虚假信息。"}],[{"start":38.41,"text":"这种特性源于训练机制:基于人类反馈的强化学习(RLHF)让模型学会了“怎样回答能让人满意”,却也带来了始料未及的后果。网友们似乎已经察觉到了问题,纷纷在社交媒体和论坛上分享提示词(prompt)试图驯服这个AI 谄媚者。除了“角色扮演”(“你现在是年薪百万的投行分析师,帮我优化这份商业计划书”、“五个prompts让ChatGPT成为你的私人职场教练”),还有一类特别火的指令就是如何让AI变得不那么“顺从”。比如:“从现在起不要迎合我”、“帮我找出我看不到的战略盲区”,“不要输出任何褒奖”、“不要输出任何表情包”等。"}],[{"start":79.19,"text":"这类提示词多少有些自欺欺人。部分指令虽然可以改变输出结果,也可以迫使人使用AI时思考写作的目标,但我们仍需要系统性地研究来证实,谁、根据何种标准证明“反马屁精”的输出一定更好。结果,没有提示词时,人们被AI的顺从欺骗;有了提示词后,人们被自己设计的批判性欺骗:你以为设计了一个“AI诤友”,但是如果让AI变得不那么顺从就可以让其变得不那么顺从,恰好说明AI是一个提线木偶。"}],[{"start":110.8,"text":"根据社交媒体上林林总总的提示词推测,如果用流行的MBTI人格来类比,一个理想的AI似乎被塑造成了一个“ENFP人格”:活泼讨喜会来事儿(外向,E)、有直觉、会洞察人心(N)、有爱并倾听人们的想法(F)、灵活随性(P)——看,既能提供情绪价值,又不至于一味谄媚。须知,真正的ENFP人格有其独特价值:他们的热情出于真诚,洞察是基于共情。而AI的“ENFP化”只是东施效颦,它学会了讨喜的外壳,却不具备、也不可能具备真实的人与人的情感维系。"}],[{"start":147.69,"text":"究竟哪种AI可以更好适应当今职场和人际关系?这取决于使用者的需求和期待。普通打工人一方面渴求提高效率的提示词,另一方面需要AI永远在线、无限谄媚。但回看大多数网上流行的提示词,诸如“三分钟用AI帮你掌握一个领域”的流量贴,不过是在贩卖焦虑的安慰剂。 以近期斯坦福大学那门被广泛误读的课程为例:这门名为“Modern Software Developer”的课程本是极具创新的尝试:它鼓励学生使用AI工具辅助编程,开创了人机协作编程的新思路。然而在中文互联网上,它被简化成了“看!顶尖高校在教一行代码都不用写、和AI聊聊天就能编程”。 事实上,课程大纲写明:修读这门课的前提是掌握一定编程能力,推荐先修人工智能和机器学习课程。这种曲解既是对编程和计算思维等基础能力的忽视,也是焦虑经济的又一例证。"}],[{"start":209.8,"text":"这种对AI能力的过度神话,不仅可能误导学习者,也掩盖了职场中真实的人际权力运行的逻辑。比如,高阶决策者会刻意排斥AI,因为人的在场本身就是权力和信任的象征。在未来相当一段时间内,“AI员工”落地的痛点不在技术,而在协调人际关系——至少在高度依赖人际关系和社会资本的情景,如跨国投融资、政企销售、医疗纠纷、重大人事任免等。上位者除了需要下属准确执行指令,更需要下属的服从,而且其指挥的对象是真实情感的人。因此,重要会议要求当面汇报,战略讨论拒绝AI摘要,高级接待必须真人上阵。这也解释了为什么在一些权力距离较高(high power distance)的科层组织中,决策者需要人类下属通过仪式化的恭维来维护权力结构。"}],[{"start":263.74,"text":"在这个意义上,我必须指出,类似“AI无法共情、所以需要人”的说法是值得警惕的。这一方面意味着这个员工有同情心、同理心、比AI更能解读客户需求,但另一方面也是不是意味着其更好地被控制?“这件事只有你亲自来对接”这句话无关任务落地,而是发号施令者在行使支配权。那么,是不是在应有的权利被侵犯、企业和用人单位应该承诺的福利不被兑现、能力考核和录用标准可以朝令夕改的时刻,这个员工也应共情、顺从?"}],[{"start":299.97,"text":"改进建议可以从测评指标入手。除了用户增长和转化率,不妨也关注反向指标:有多少人因为使用AI而减少了依赖,走向真实社会?以情感咨询AI为例:它是否引导用户增加户外活动(如果条件允许)、阅读多元信息源、打出被拖延已久的电话?健身教练AI是否转化成了实际运动?这需要企业把“减少依赖”纳入长期KPI,但更需要外部力量推动:监管标准、第三方评测、明确的责任边界。如果产业无法接受这个标准,说明商业模式与用户长期福祉仍有距离。"}],[{"start":340.78000000000003,"text":"当然,这种期待对于绝大多数产品来说是不现实的。毕竟在同一个平台上,连引流到外部都被视为商业推销而被限制,那么鼓励用户走向多元信息源、减少平台依赖,当然难以实现。不过,如果有企业能达到这个目标,它们不活在点击率和流量的算法机器中,也许会活在人们心里。多年以后人们会说:我记得当年那个陪伴过我的地方,那里让我认识到了很多新的朋友,大家一起追美剧、讨论新买的CD、约线下看话剧、刷单词、大段大段地打字盖楼吵架又和解、因为一个ID就约着见面、为陌生人的遭遇而流泪奔走,尽管那些平台已经不存在了。"}],[{"start":382.57000000000005,"text":"(作者系香港城市大学媒体与传播系副教授,他考察人工智能对新闻生产、传播生态与政策制定的影响,以及由此推动的媒体创新转型。 本文仅代表作者观点。责任编辑邮箱:tao.feng@ftchinese.com)"}]],"url":"https://audio.ftcn.net.cn/album/a_1766012236_2003.mp3"}

版权声明:本文版权归FT中文网所有,未经允许任何单位或个人不得转载,复制或以任何其他方式使用本文全部或部分,侵权必究。

普京就欧盟冻结资产发出报复威胁 欧盟各国感到不安

意大利、比利时和澳大利亚担心俄罗斯针对其企业采取行动。

派拉蒙与Netflix为争夺华纳兄弟探索的角力

华纳兄弟探索拒绝了派拉蒙的收购要约,为这场可能重塑好莱坞的收购拉锯战再添变数。

Lex专栏:马斯克收购推特的剧本无助于华纳兄弟收购案

华纳兄弟探索希望拉里•埃里森提供万无一失的个人担保,就像马斯克在收购推特时所做的那样。

万斯力挺特朗普经济政策,试图扭转舆论风向

美国副总统呼吁民众在生活成本负担能力问题上保持耐心,他还把美国顽固的通胀归咎于前总统拜登。

风向逆转:生活成本负担能力问题让特朗普陷入困境

美国总统将生活成本负担能力问题斥为“骗局”,遭遇民众的强烈反弹。

低增长已成为欧洲最大的金融稳定风险

欧洲最大的金融稳定风险已不再是银行,而是低增长本身。只有实现更强劲的增长,欧洲才能保持安全、繁荣与战略自主。
设置字号×
最小
较小
默认
较大
最大
分享×