细思极恐!她的“人脸”被“深度伪造”
办案人员从嫌疑人的电脑中查获了大量其采用非法手段获取的公民个人信息。(来源:资料图片)
提供身份证号和姓名就能买到身份照片
获取被害人社交账号、密码后,要想转走账号里的钱,那就需要“人脸识别”了。
如何实现“人脸识别”?他们首先需要账号主人的身份证号码、姓名等个人信息。刘靖登录被害人的账号后,通过账号进入手机中的某贷款软件,假称是被害人需要贷款,填写申请表后,在申请表底端就会出现被害人的真实姓名和身份证号。
拿到真实姓名和身份证号后,刘靖再将被害人的身份证号、账号提供给另外一贩卖个人信息的灰色产业链,通过该灰色产业链获取到被害人的身份证照片,再将照片中的一寸免冠照截图下来。
据了解,这类贩卖个人信息的产业链有着完整的数据库,只要提供身份证号和姓名,就能买到对应的身份证照片,而每张价格仅为25元到30元。
有了身份证照片后,刘靖提取到照片上的一寸免冠照,将照片交给陈叔华。由陈叔华制作出AI换脸视频破解支付系统的人脸识别功能。
首先,他们在网上下载一款图像清晰化软件,通过电子技术提高照片的清晰度,随后又利用另外一款软件将清晰度翻新的照片变成一段视频。
随后,他再将这段视频用于支付系统的人脸识别检测。为了使画面更加逼真,陈叔华还利用抠图软件,把身份证照片中的白底背景改成了生活场景,营造出真实感。
目前,办案人员还在追查关于贩卖个人信息黑灰产业链的相关信息。
承办本案的检察官姚瑶说:“这些照片涉及出售公民个人信息的相关灰色产业链,这类产业链与公民个人信息的泄露可能有着直接的关系,但这些类案件涉及的相关灰色产业链很多都与电信网络诈骗有关,源头大都在国外,追查起来有一定难度。”
花1.8万元购买的“破人脸”技术
陈叔华的“破人脸”技术,是他花1.8万元在网上买的。
用这种方式制作的AI换脸视频不是每次都能成功通过检测的,有时候因为“换脸”时“张嘴”和“眨眼”的动作颠倒了,导致无法破解支付系统;有时还会因为图片清晰度不够,不符合人脸识别的要求。在这种情况下,陈叔华就会放弃,直接把这个社交账号转手卖掉算了。
陈叔华的AI换脸视频做好后,刘靖就用该视频破解支付系统,盗窃钱款。在登录社交账号前,他们也不知道该账号里有没有钱,有些账号没有余额,他就会转手把账号卖掉。
完成这一系列清账号余额的流程必须迅速,且一般都在深夜完成。因为被害人通常不会在深夜登录账号,此时完成盗窃会比较顺利。一旦被害人发现异常,账号被冻结,将很难成功。
做完这一系列动作,王等就把被害人的账号删去,不留痕迹。三人合作了半个月,一共盗窃了3万余元,直到周娟报警他们被抓。
2021年11月30日,上城区检察院以涉嫌盗窃罪对三人提起公诉。12月22日,上城区法院对该案作出判决,以盗窃罪判处陈叔华有期徒刑十个月,缓刑一年二个月,并处罚金2000元;以盗窃罪判处王等有期徒刑八个月,缓刑一年,并处罚金1000元;以盗窃罪判处刘靖有期徒刑七个月,缓刑一年,并处罚金1000元。
深挖背后的“深度伪造”技术
盗窃案至此也许可以告一段落,但是检察官认为此事显然没那么简单。办案过程中,上城区检察院检察技术人员邵日强就从嫌疑人手机中提取到了大量数据、材料,其中包括多个教授他人如何实施犯罪的视频,大量买卖社交账号的聊天记录。
检察技术人员说,尽管从刑事角度看,该案仅是一起简单的盗窃案,但从提取到的视频及聊天记录来看,本案犯罪核心技术是deepfake(深度伪造)。通过证据分析他们发现,嫌疑人实施的作案手段是一个完整的犯罪链条,包括获取被害人身份信息以及结合软件伪造人脸识别视频等多环节。
检察机关根据分析出来的新证据材料,对嫌疑人进行了再次提审,将讯问角度放在技术层面,又找到了新突破点。
2022年2月,上城区检察院就该案能否挖掘上游犯罪的相关线索召开了复盘会,将数据重新做精细化筛选。上城区检察院认为,本案不只是小额盗窃案,现已提取到嫌疑人贩卖公民个人信息、传授犯罪方法、帮助信息网络犯罪等多个犯罪线索,应当继续追查。
于是,上城区检察院重新出具了《线索移送函》,引导公安机关继续深挖本案相关的非法产业链,目前还在继续办理中。
邵日强告诉《方圆》记者:“此案反映出两个问题。第一,公民个人信息使用需要规范,嫌疑人通过某贷款软件的身份信息进而获取到该号照片,互联网运营者滥用公民个人信息问题需重视。第二,人脸识别的安全性也需要重视和规范,技术安全性与身份认证场景应做分级,尤其是支付领域的应用场景应用应更为谨慎。”
(文中涉案人员均为化名。本文有删减,更多内容请关注《方圆》4月上期)
编辑:广州明生医药有限公司
标签:账号,乐乐,被害人,社交,产业链,个人信息,的钱,的人,余额,密码