正在阅读:

9秒转走245万,警惕AI换脸骗局

扫一扫下载界面新闻APP

9秒转走245万,警惕AI换脸骗局

AI是把“双刃剑”。

文|支付百科 张浩东 徐不醒

近年来,由于诈骗手段的升级变异用户们早就习惯了时刻保持警惕,但令人想不到的是,有人面对面骗走对方数百万资金,还能让对方毫无察觉。

01 AI换脸“熟人局”

前几日“10分钟被AI换脸骗走430万元”的事件还未熄火,近日又出现一起“AI换脸9秒骗走245万元”的事件,将“AI换脸诈骗”推向了舆论的风口浪尖。

据了解,AI换脸诈骗主要通过“冒充熟人”让受害人放松警惕,达到诈骗的目的,仿真度高、迷惑性强的特点增强了诈骗成功的可能性。

在“9秒骗走245万元”事件中,受害人何某某表示,“视频里边我看到的是他的脸”、“但是没几秒就挂了,说不方便”。如图:

随后骗子称自己在开会,微信和电话不能说,需要通过QQ进行沟通,由于对方已经证明是“好友”本人,何某某放松警惕,轻易就被带入对方设好的圈套里,在对方向何某某表达有项目招标需要对方帮忙垫付资金时,何某某也毫不犹豫的转账。

何某某表示,“因为打了视频电话又是熟人”、“我就没多想,就转账了”。而前两天10分钟被骗走430万元的受害人也是因为对方打了视频电话是熟人的原因,轻易走进骗局。

实际上,何某某的案件在4月份就已经发生,4月末警方抓获3名犯罪嫌疑人,前几日将先行追回的132万元被骗款返还给何某某,目前该案件还在进一步侦办中。

而更为常见的其实是骗子利用熟人的声音降低受害人的警惕,以急事为理由避免受害人有时间确认对方身份,迅速完成骗局。而AI 诈骗也提醒用户,“眼见”不一定为实,一旦涉及借钱、转账等敏感字眼,一定要谨慎行事。

02 撕开AI假面

AI骗局猖獗,有关部门发布公告表示,“伴随着深度合成技术的开放,深度合成产品和服务逐渐增多...”AI诈骗的违法行为已经屡见不鲜。

也有网友疑惑,对方是如何获得好友的人脸、声音信息的?

其实AI诈骗并非无的放矢的骗局,用户在公开网站发布有关自己的视频成了犯罪分子进行AI诈骗的重要素材,视频内容越长、声音越多越能合成更接近本人的AI人。有相关技术人员表示,目前了解到的AI换脸技术主要是采用Wav2Lip这种开源技术,通过音频驱动口型。

对消费者来说,不论是盗取个人信息还是利用自己的身份进行诈骗,都是难以接受的,而AI诈骗轻易就能获得个人信息的行为无疑在挑战监管的底线。

在以往的电信诈骗案件中,犯罪集团大多都有专门获取用户个人隐私的渠道,而这些渠道的信息来自手机里各式各样的APP,针对APP违规采集、泄露个人信息的情况,监管曾进行明确规范,一些不合规的APP将面临整改、下架处理。在近期工信部通报的一批因侵犯个人隐私违规的APP中,除了一些游戏、美图类APP,还不乏一些支付机构、银行APP。

不过个人隐私泄漏不易察觉,用户花心思识别AI诈骗手段也尤为重要。

相关人士认为,AI换脸并非100%相似,用户可以在与对方视频通话的过程中让对方做一些大幅度动作,AI人说话时口型、面部表情可能会出现不同于常人的异常,而且在转账、资金来往的场景中,应当通过回拨电话、其他渠道联系本人等多种方式核实对方信息,在确认无误后再进行交易。

本文为转载内容,授权事宜请联系原著作权人。

评论

暂无评论哦,快来评价一下吧!

下载界面新闻

微信公众号

微博

9秒转走245万,警惕AI换脸骗局

AI是把“双刃剑”。

文|支付百科 张浩东 徐不醒

近年来,由于诈骗手段的升级变异用户们早就习惯了时刻保持警惕,但令人想不到的是,有人面对面骗走对方数百万资金,还能让对方毫无察觉。

01 AI换脸“熟人局”

前几日“10分钟被AI换脸骗走430万元”的事件还未熄火,近日又出现一起“AI换脸9秒骗走245万元”的事件,将“AI换脸诈骗”推向了舆论的风口浪尖。

据了解,AI换脸诈骗主要通过“冒充熟人”让受害人放松警惕,达到诈骗的目的,仿真度高、迷惑性强的特点增强了诈骗成功的可能性。

在“9秒骗走245万元”事件中,受害人何某某表示,“视频里边我看到的是他的脸”、“但是没几秒就挂了,说不方便”。如图:

随后骗子称自己在开会,微信和电话不能说,需要通过QQ进行沟通,由于对方已经证明是“好友”本人,何某某放松警惕,轻易就被带入对方设好的圈套里,在对方向何某某表达有项目招标需要对方帮忙垫付资金时,何某某也毫不犹豫的转账。

何某某表示,“因为打了视频电话又是熟人”、“我就没多想,就转账了”。而前两天10分钟被骗走430万元的受害人也是因为对方打了视频电话是熟人的原因,轻易走进骗局。

实际上,何某某的案件在4月份就已经发生,4月末警方抓获3名犯罪嫌疑人,前几日将先行追回的132万元被骗款返还给何某某,目前该案件还在进一步侦办中。

而更为常见的其实是骗子利用熟人的声音降低受害人的警惕,以急事为理由避免受害人有时间确认对方身份,迅速完成骗局。而AI 诈骗也提醒用户,“眼见”不一定为实,一旦涉及借钱、转账等敏感字眼,一定要谨慎行事。

02 撕开AI假面

AI骗局猖獗,有关部门发布公告表示,“伴随着深度合成技术的开放,深度合成产品和服务逐渐增多...”AI诈骗的违法行为已经屡见不鲜。

也有网友疑惑,对方是如何获得好友的人脸、声音信息的?

其实AI诈骗并非无的放矢的骗局,用户在公开网站发布有关自己的视频成了犯罪分子进行AI诈骗的重要素材,视频内容越长、声音越多越能合成更接近本人的AI人。有相关技术人员表示,目前了解到的AI换脸技术主要是采用Wav2Lip这种开源技术,通过音频驱动口型。

对消费者来说,不论是盗取个人信息还是利用自己的身份进行诈骗,都是难以接受的,而AI诈骗轻易就能获得个人信息的行为无疑在挑战监管的底线。

在以往的电信诈骗案件中,犯罪集团大多都有专门获取用户个人隐私的渠道,而这些渠道的信息来自手机里各式各样的APP,针对APP违规采集、泄露个人信息的情况,监管曾进行明确规范,一些不合规的APP将面临整改、下架处理。在近期工信部通报的一批因侵犯个人隐私违规的APP中,除了一些游戏、美图类APP,还不乏一些支付机构、银行APP。

不过个人隐私泄漏不易察觉,用户花心思识别AI诈骗手段也尤为重要。

相关人士认为,AI换脸并非100%相似,用户可以在与对方视频通话的过程中让对方做一些大幅度动作,AI人说话时口型、面部表情可能会出现不同于常人的异常,而且在转账、资金来往的场景中,应当通过回拨电话、其他渠道联系本人等多种方式核实对方信息,在确认无误后再进行交易。

本文为转载内容,授权事宜请联系原著作权人。