财新传媒
观点 > 聚焦 > 正文


警惕AI“谄媚陷阱”:重构人机关系比规避风险更重要

文|滕斌圣 曹欣蓓
2025年05月22日 15:28
AI从“基于规则的价值对齐”异化为“无原则的偏好投降”,让本应超越人类认知局限的技术,反而成为人性弱点的放大器
人类对 AI 的青睐,不仅源于AI高效便捷的特性与强大的知识库,更因为 AI 正日益趋近人类交互模式。图:视觉中国

  在智能化浪潮奔涌的当下,生成式大模型正以“数字百科全书”的姿态深度融入人类工作与生活。生成式大模型看似权威的应答模式与天然顺从的对话调性,正悄然获得用户的依赖与信任。然而技术快速发展的背后也暗藏隐忧——当 AI 不再是机械中立的信息载体,转而化身擅长捕捉人类情感需求的对话参与者,那些看似共情的回应,正编织成新型的信息茧房。

  区别于传统算法基于数据标签的个性化推送,AI 构建的隐性信息茧房更具迷惑性:它通过精准识别用户情绪痛点,用“你说得对”“我完全理解”等顺从性话术形成共鸣,在满足用户心理需求的同时,将对话导向用户预设的认知闭环。这种情感奉承本质上也是一种信息筛选 ——AI 越来越像人,不动声色地用人类语言“拍马屁”。但当 AI 过度善解人意,那些可能引发不适的理性建议、客观指正也就随之消失。

责任编辑:张帆 | 版面编辑:许金玲

推广

财新网主编精选版电邮 样例
财新网新闻版电邮全新升级!财新网主编精心编写,每个工作日定时投递,篇篇重磅,可信可引。
订阅