“AI换脸”真假难辨,如何防范新型诈骗?

来源:中国科技网 日期:2024-03-15

随着人工智能技术的进步,一些不法分子开始利用AI技术融合他人面孔和声音,制造非常逼真的合成图像来实施新型网络诈骗,这类骗局常常会在短时间内给被害人造成较大损失。那么,我们应该如何识别和防范新型诈骗?

有人偷了你的脸!当AI诈骗遇上虚拟数字人“天妤”。视频来源:最高人民检察院公号

警惕“AI换脸”新型诈骗

记者调查发现,最近多地出现的AI换脸诈骗案件,均具备定制性、迷惑性等特征。

其中,香港警方近期披露一起涉案金额高达2亿港元的多人AI换脸诈骗案尤为典型。据媒体报道,某公司职员受邀参加公司“多人视频会议”时,先后将2亿港元分别转账到5个本地银行账户内。据警方调查,这场视频会议中除了受害者外,其余均为AI换脸后的诈骗人员。

不少业内专家表示,随着文生视频大模型Sora等多模态人工智能的探索和出现,人们可能陷入“眼见也不一定为实”的困局。“一直以来,银行等部门将实时视频用做检验身份的手段之一,如今其可靠性将面临巨大挑战。”中国行政法学研究会常务理事、华东政法大学教授沈福俊说,“随着人工智能技术的迭代升级,这类违法行为还可能演变出更多形态。”

沈福俊坦言,对此类AI换脸和AI拟声的恶性诈骗案件,若只依靠传统监管手段已不能防堵,监管部门在提升自我科技能力储备的同时,有必要引入新兴技术,探索用AI技术监管AI的可能。

Sora可根据文本内容生成逼真视频。图片来源:Sora/OpenAI

“AI换脸”的技术原理是什么

中国网络空间安全协会人工智能安全治理专委会专家薛智慧介绍,“AI换脸”过程主要包括人脸识别追踪、面部特征提取、人脸变换融合、背景环境渲染、图像与音频合成等几个关键步骤。

首先通过视频的采集,追踪定位图片里人的面部;第二步,做一个面部特征点的采集和提取,主要包括嘴、鼻子跟眼睛的特征;第三步就是把这张原始的照片,做一个变换跟融合。

其背后最核心的包括为三个部分,首先,利用深度学习算法精准地识别视频中的人脸图像,并提取出如眼睛、鼻子、嘴巴等关键面部特征。其次,将这些特征与目标人脸图像进行匹配、替换、融合。最后,通过背景环境渲染并添加合成后的声音,生成逼真度较高的虚假“换脸”视频。

如何识别和防范新型诈骗

遇到这种类型的诈骗,普通人该怎么识别和防范呢?四川网警的网络安全专家张警官在线支招:一提高反诈意识;二是涉及资金往来应多途径核对,在视频过程中可以要求对方做掐脸、捏鼻子等特定的动作,观察视频有没有穿模或异常变形,以此来识别是否为AI伪造的视频;三是通过电话、微信等多渠道多方式确认;四是在转账时,可以将到账时间设定为2小时到账或者24小时到账,以预留处理时间。

掐脸、捏鼻子这一招引起了大家的热议。“超级头脑”创始人张泽伟说:“随着技术的发展,它的这些漏洞都会被修复掉。对AI的训练日趋成熟后,可能掐脸、捏鼻子AI也会做了,建议变成捏成“猪鼻子”等一些AI不易做到的动作。或者制定一些只有属于家人才知道的暗号,这是最保险的。”

张警官尤其谈到,要注意个人信息和隐私数据的保护。AI换脸或者声音合成技术,前提是要搜集受害人的声音和图片视频资料。日常生活中要保护好个人隐私安全,使用正规软件,防止自己的聊天信息、身份信息泄露,同时我们要尽可能减少社交媒体上自己的照片和声音曝光。张警官还向大家再次推荐:一定要下载国家反诈中心app,那里面有非常多的案例供大家借鉴。

    A+
声明:本文转载自其它媒体,转载目的在于传递更多信息,并不代表赞同其观点和对其真实性负责。