详解AI诈骗 开头引用中国网警的一句经典名言: “你目前还没被骗,并不是因为你多聪明,也不是因为你没钱,而是适合你的“剧本”还在路上。” 下面正式开始,首先是事情概要: 某科技公司法人郭先生,接到好友的微信视频,注意是视频电话,不是文字也不是语音,而是活生生的视频电话,对方是郭先生的好友,好友表示自己在外地竞标,需要430万保证金,要公对公转账,郭先生因为这个视频电话,完全相信了这个人就是自己的好友,直接就分两笔把430万转过去了,转完郭先生拨打了朋友的电话(真号码电话,非微信视频),才知道自己被骗了,郭先生立马报警,警方成功拦截336.84万元,但仍有93.16万元被转移。 案例看完了,那AI在这里面充当了什么角色,诈骗人员又使用了什么工具呢?以下就是详细讲解(基于我对AI技术的猜测推理,如有不对的地方也欢迎大家指正) 1 【So-VITS-SVC】这是一个关于声音的AI程序,只需要一定时长的人声干声(干声就是没有杂音的纯人声),把这人声干声素材丢给AI,设定好参数后,就可以开始AI学习训练,都是自动的,最后得出这个人声的模型,可以用这个人声模型唱出、讲出所有你想要他说的内容,注意了,不限语种!英语日语汉语全都可以,最关键的是,一台电脑就能搞掂,这是可以本地部署的,只要学过流程,电脑配置足够就谁都可以。 诈骗人员可以通过打电话给你,用一些看似平常的问题拖你的时间,尽量诱导你讲话,对方就在录你声音,不管有没有杂音,用【Vocal Remover】类的人声提纯软件就可以的得到干声,好了,第一步已经完成了,得到了人声,且训练为模型,可以说任意的话了。 2 偷拍,或者在各种社交平台获取人的照片,张数都不用多,就可以用【stable-diffusion】(这是一个AI绘画软件)训练出一个人脸模型,无限生成这个人的照片,得到这个人的各个方向的人脸照片素材。 3【swapface.org】等换脸软件,英文swapface顾名思义,就是换脸AI,可以实现照片或者视频的任意脸部对换。 那可以推理出,以上123这三个技术现在都是很好落地,很好实现的,加上一些列的3D模型和3DAI,比如【UNREAL ENGINE】【realitycapture】【metahuman】等,所以会出现【仿真数字人】技术,完完全全从外貌,表情,声音复制一个你出来 4 如果再细一点,还可以扒取你平时发的朋友圈,发的文章,发的聊天内容,汇总成素材,让【chatgpt4.0】学习你的说话习惯,训练一个小模型,这样用这个模型输出说的话,就非常像对象目标的风格了 所以这个诈骗案例就发生了,使用了AI工具完全复刻了一个郭先生的朋友,郭先生就完全没有发现这是一个AI 最后我们总结一下,AI能干什么: 1 通过电话录音,获取你的声音,然后可以用所有语言用你的声音说,甚至唱歌 2 获取你的自拍、朋友圈照片,可以无线生成你 3 获取你的文字文章,学习你的说话习惯 4 素材足够就可以生成一个你这个人的仿真数字人 那到底有没有办法解决呢? 我的初步想法是:越土越旧越不电子化就越强,那就是——暗号! 可能看到这里会笑 但是真的,如果你跟家里人只有你爸妈和你才知道的暗号,不发在网上,不打字在微信,不可查不可盗,只存在在你们的脑里,就是最安全的防诈骗,特别是转账的时候,说出暗号才好转账 如果有其他好方法也欢迎写在评论区跟大家分享。
|