为了躲开线上预警拦截,诈骗团伙派出同伙上门,以投资理财为名,从我省一名受害人手里拿走了现金,而受害人手机里那个不断显示“充值到账”的页面,是AI(人工智能)按诈骗分子设定生成的——钱从来没有进入任何账户,受害人被骗走100多万元。
我省还有一起消费投诉,则是另一种情形。一名消费者买了机票,航班取消,航空公司把行程提前两天,多出的住宿费由谁承担没人认账。她一次次打航空公司电话要求补偿,接电话的始终是AI客服,转不到人工。最后是省消保委找到航空公司调解,问题才得以解决。
当前,AI正以前所未有的速度发展,在为人们带来便利的同时,还从不同方向“挤进”普通人的生活——它复制你的脸,冒充你,或者骗过你的人脸识别;它记住你的消费习惯,让同一件商品标出不同的价格;它还能替商家作答,等出了问题又变成“那是机器说的”。
近日,记者就此采访了南昌市公安局反诈中心和省消保委,两个部门给出的回答指向同一个判断:AI没有发明新的骗局,它只是让老的骗术变得更快、更像、更难防。那么,对于新的陷阱,它的隐蔽之处在哪里,普通群众应该如何识别和防范?
盖了章的文件,应不应该信?
10月15日,南昌市公安局反诈中心民警徐加明正在准备电信网络诈骗防范宣传内容,其中一起案例颇具特点:诈骗团伙给老人看了一份盖着公章的“红头文件”,提供的产品上还有知名金融机构的标识,声称“这款理财产品是官方支持、正规机构的,收益非常可观。”
事实上,所谓的“红头文件”和标识,均由AI生成。如今,类似的作案手法逐渐成为电信网络诈骗的主要特点。根据公安部最新通报,今年全国各地公安机关破获了多起利用AI技术实施的新型诈骗案件。
“在所有电信网络诈骗案件中,利用AI换脸、拟声直接实施诈骗的案件比例并不高。但是,AI却越来越多地出现在电信网络诈骗案件中。”南昌市公安局反诈中心民警袁凯说,当前,电诈犯罪呈现的特点是犯罪分子大量利用AI工具生成诈骗话术、图片、视频和文件,先收集消费者信息,再让AI画像、筛选对象……在很多受害人的聊天记录里,都会发现AI的痕迹比较明显。
常见的还有敲诈。徐加明介绍,一些犯罪分子在网聊过程中通过指定软件或视频聊天获取人脸信息,再用AI生成裸体不雅视频,利用受害人怕曝光的心理进行敲诈。
同样的事也发生在信件里。今年3月,上饶市广信区煌固邮政所两天里寄出171封挂号信,收件人遍布多个省份,却没有一封写明寄信事由。营业员逐封核对后察觉异常,把信封逐张拍下上报。民警拆开信封发现一张AI合成的不雅图片和一张纸条,要求收件人添加指定微信处理相关事宜。图片里那张脸,来自收件人自己发在社交平台上的照片。
先拿到脸,再制造把柄,最后索要钱财——线上的视频聊天和线下的挂号信,呈现出了相似的特点。一次消费记录、一张高清照片,一段原声视频,都可能成为别人手里的作案工具。
算法给的价,哪个才合理?
AI不仅在“复制人”,还在“阅读人”。
南昌市公安局反诈中心梳理出一条链路:诈骗分子用AI技术批量“扫网”,抓取网络公开数据,自动打标签、做画像,筛选重点施骗对象。
我省某地女性个体工商户李某就是这样被选中的。她常在微信、抖音发布企业经营信息和广告,“女性”“个体经营”“高资产净值”的标签,与虚假投资理财诈骗的目标高度契合。
此后的事几乎全由AI完成。诈骗分子生成逼真的“军官证”和照片,以虚假军人身份取得好感后,诱导李某下载一款虚假投资软件“代为操作”。后台则由AI驱动,随李某的操作实时生成虚假收益。
AI的“阅读”更体现在日常消费场景中。消费者无形中会接触到商家的一种“价格游戏”——大数据“杀熟”。
消费者王某反映,今年他花106.92元网购了一款拉杆箱。后来他发现在同一商品链接下,显示的购买价格多次不一。
“如果消费者能固定证据,便可以更充分地证明平台或商家涉嫌消费欺诈。因为他们主观上是故意的,通过后台数据监测不同用户的不同等级,然后在前台给出的价格不一样,损害了消费者利益。”省消保委工作人员表示,商品价格的变化受很多因素影响,消费者需要及时固定证据。
在我省受理的相关投诉里,一些消费者遇到了类似问题:商品价格反复变动,商家答复“价格跟随市场波动”;小游戏充值60元,同等条件他人只要25元;代驾公司“同距离同时段一次比一次贵”,但公司注册地不在受理机关管辖区域……
“当前,一些地方的消保委已经约谈了相关商家,并围绕相关线索研究提起公益诉讼。”省消保委工作人员说。
AI说的话,能不能算数?