财新传媒


AI应用爆发,拿什么关注AI欺诈

2025年07月29日 14:15
人工智能的强大能力,正在被不法分子利用,一场“重大欺诈危机”已在各个领域初露端倪,而其中最令人担忧的,莫过于AI模仿技术对传统安全防线的冲击
在AI换脸、AI拟声等技术的加持下,AI欺诈得以渗透社会、消费和金融方面的所有漏洞,在AI技术与人类认知进攻和防御之间的这场战斗中,人类面临着前所未有的信任危机。图:视觉中国

  人工智能,给了人类复制乃至倍增人类智能的无限可能,但是越来越多的AI应用,开始冒用人类自身,获取只有人类真身才能获得的认证。而在这之后,可能就是自己账户数以千万计的财富转移。

  现在能怎么办?

  7月23日,据美联社报道,OpenAI CEO 奥尔特曼警告金融行业,人工智能工具能够模仿个人声音绕过安全检查并转移资金,这将引发一场“重大欺诈危机”。

  奥尔特曼在美国首都华盛顿举行的联邦储备会议上发言时表示:“让我感到震惊的是,居然还有一些金融机构接受声纹作为身份验证。这简直不可思议,AI 技术已经完全突破了这一防线。AI 已经完全击败了目前人们使用的大多数身份验证方式,除了密码。”

  推荐进入财新数据库,可随时查阅宏观经济、股票债券、公司人物,财经数据尽在掌握。

责任编辑:张帆 | 版面编辑:吴秋晗

推广

于达维
毕业于北京大学地球物理系,美国怀俄明大学大气物理专业硕士,曾从业媒体20余年,为资深科技记者及研究者。