财新传媒
财新传媒
1111111
财新通行证
T中

警惕AI“谄媚陷阱”:重构人机关系比规避风险更重要

文|滕斌圣 曹欣蓓
2025年05月22日 15:28
AI从“基于规则的价值对齐”异化为“无原则的偏好投降”,让本应超越人类认知局限的技术,反而成为人性弱点的放大器
news 原图 人类对 AI 的青睐,不仅源于AI高效便捷的特性与强大的知识库,更因为 AI 正日益趋近人类交互模式。图:视觉中国

  在智能化浪潮奔涌的当下,生成式大模型正以“数字百科全书”的姿态深度融入人类工作与生活。生成式大模型看似权威的应答模式与天然顺从的对话调性,正悄然获得用户的依赖与信任。然而技术快速发展的背后也暗藏隐忧——当 AI 不再是机械中立的信息载体,转而化身擅长捕捉人类情感需求的对话参与者,那些看似共情的回应,正编织成新型的信息茧房。

  区别于传统算法基于数据标签的个性化推送,AI 构建的隐性信息茧房更具迷惑性:它通过精准识别用户情绪痛点,用“你说得对”“我完全理解”等顺从性话术形成共鸣,在满足用户心理需求的同时,将对话导向用户预设的认知闭环。这种情感奉承本质上也是一种信息筛选 ——AI 越来越像人,不动声色地用人类语言“拍马屁”。但当 AI 过度善解人意,那些可能引发不适的理性建议、客观指正也就随之消失。

责任编辑:张帆 | 版面编辑:许金玲

观点频道所发布文章及图片之版权属作者本人及/或相关权利人所有,未经作者及/或相关权利人单独授权,任何网站、平面媒体不得予以转载。财新网对相关媒体的网站信息内容转载授权并不包括上述文章及图片。文章均为作者个人观点,不代表财新网的立场和观点。

财新网所刊载内容之知识产权为财新传媒及/或相关权利人专属所有或持有。未经许可,禁止进行转载、摘编、复制及建立镜像等任何使用。

如有意愿转载,请发邮件至hello@caixin.com,获得书面确认及授权后,方可转载。

推荐阅读
财新移动
说说你的看法...
分享
取消
发送
注册
 分享成功

订阅财新网主编精选版电邮>>