AI技术被骗子利用到底可怕不可怕?当然非常可怕,因为迷惑性太强。
闲闲财经认为,这种骗术,其实一点也不新鲜,各位早就见识过,只是没有切身体验过而已。这是《西游记》里孙悟空惯用的伎俩,就拿“三盗芭蕉扇”这一段来说,孙悟空变作牛魔王,欺骗了铁扇公主,骗走芭蕉扇,这是家喻户晓的故事。
咱家不止一次地将虚拟现实应用场景,用《西游记》的故事进行类比,马化腾的“全真互联网”就是孙悟空一个筋斗十万八千里,想到哪里随时就到。孙悟空之所以这么厉害,乃是心念一想,新一代技术也是这样,一念天堂,一念地狱,这也正是“AI诈骗”引起广泛关注的重要原因。
AI换脸,再加上声音合成,有人利用这一技术,让视频对方无法分辨是真是假,现实中骗走的可不是“芭蕉扇”,而是用户的真金白银。
于是乎,“AI诈骗成功率近100%”,引起了市场普遍焦虑。
一个被媒体广为报道的案例是:骗子没有使用一个仿真好友微信添加郭先生为好友,而是通过好友微信发起视频聊天,骗走了郭先生430万,待郭先生联系朋友核实后方知被骗而报警,当前已成功追回了绝大部分。
就该案而言,首先给我们的启示是,视频里的熟人并非就是熟人,眼见、耳听都未必属实,防止孙悟空摇身一变。
而闲闲财经有两个疑点:其一、郭先生好友的微信被骗子控制,这个问题需要进一步推敲,事实恐怕并非新闻报道上那么简单;其二、郭先生好友的银行卡也被骗子控制,这个漏洞并未引起广泛讨论。
就该案来看,如果再有骗子想要采取类似手法进行行骗的话,不仅要掌控一个微信,还要掌控其银行卡密码,是不是有点荒唐了?
这也正是闲闲财经认为,AI诈骗成功率接近100%,显然有点夸大了,就该观点而言,恐怕并未有具体统计数据做支撑,媒体制造焦虑的可能性很大。
我们不妨做进一步分析,郭先生好友微信和银行账户被控制,到底是什么原因呢?
密码泄露的可能性是首先要想到的,需要指出的一个问题是,如果郭先生好友的银行密码被泄露,那么首先蒙受损失的应该是郭先生的好友,就骗子本身而言,当掌控一个银行卡密码的时候,是先将卡内余额洗劫一空呢,还是进行一场别开生面的诈骗呢?
我看啊,进一步诈骗的概率要远远低于洗劫卡内余额的概率!
也就是说,广为传播的AI诈骗事件,本身就存在着逻辑瑕疵。
我们不妨进一步思考,除了密码泄露之外,还有一个可能,那就是人脸识别支付、人脸解锁带来的重大技术漏洞。
2021年11月,Meta做出了一个重大举措,关闭了人脸识别系统,删除10亿用户人脸数据,该问题应该引起全球用户的重视。
闲闲财经彼时就盛赞了Meta的做法,并且着重指出,“技术是有边界的”,并非是永远往前走,而是走到一定程度要有限制,核技术就是一个典型案例。
随着AI换脸技术的越来越成熟,人脸识别解锁手机变得毫不费力,如果阁下继续使用刷脸支付,无疑是将自己财产暴露于极高的风险之下,随时都有被人划走的可能。
我们再看郭先生好友微信、银行卡被骗子掌控的案例,如果他使用的是人脸识别解锁和刷脸支付,那么,骗子就更加容易得手。
新技术的确对我们的个人财产安全带来了不小挑战,但只要用心规避一些技术风险,闲闲财经认为,AI诈骗也并没有传说中那么可怕。