财新传媒
财新传媒
1111111
财新通行证
T中

AI应用爆发,拿什么关注AI欺诈

2025年07月29日 14:15
毕业于北京大学地球物理系,美国怀俄明大学大气物理专业硕士,曾从业媒体20余年,为资深科技记者及研究者。
于达维

毕业于北京大学地球物理系,美国怀俄明大学大气物理专业硕士,曾从业媒体20余年,为资深科技记者及研究者。

人工智能的强大能力,正在被不法分子利用,一场“重大欺诈危机”已在各个领域初露端倪,而其中最令人担忧的,莫过于AI模仿技术对传统安全防线的冲击
news 原图 在AI换脸、AI拟声等技术的加持下,AI欺诈得以渗透社会、消费和金融方面的所有漏洞,在AI技术与人类认知进攻和防御之间的这场战斗中,人类面临着前所未有的信任危机。图:视觉中国

  人工智能,给了人类复制乃至倍增人类智能的无限可能,但是越来越多的AI应用,开始冒用人类自身,获取只有人类真身才能获得的认证。而在这之后,可能就是自己账户数以千万计的财富转移。

  现在能怎么办?

  7月23日,据美联社报道,OpenAI CEO 奥尔特曼警告金融行业,人工智能工具能够模仿个人声音绕过安全检查并转移资金,这将引发一场“重大欺诈危机”。

  奥尔特曼在美国首都华盛顿举行的联邦储备会议上发言时表示:“让我感到震惊的是,居然还有一些金融机构接受声纹作为身份验证。这简直不可思议,AI 技术已经完全突破了这一防线。AI 已经完全击败了目前人们使用的大多数身份验证方式,除了密码。”

责任编辑:张帆 | 版面编辑:吴秋晗

观点频道所发布文章及图片之版权属作者本人及/或相关权利人所有,未经作者及/或相关权利人单独授权,任何网站、平面媒体不得予以转载。财新网对相关媒体的网站信息内容转载授权并不包括上述文章及图片。文章均为作者个人观点,不代表财新网的立场和观点。

推荐阅读
财新移动
说说你的看法...
分享
取消
发送
注册
 分享成功

订阅财新网主编精选版电邮>>