据媒体报道,上海普陀警方日前通报了一起典型的诈骗案。自2019年起,姜某先后以技术投资、结婚买房、公司周转等理由向3个朋友频频借钱。后来,姜某又谎称“父亲患癌急需治疗”“父亲过世需丧葬费”继续向朋友要钱,几年下来,借款金额高达170余万元。为增加骗局的可信度,他还利用AI生成父亲重病在床的短视频发布在朋友圈,并通过注册多个微信小号,一人分饰多角,冒充领导、律师、主治医生、墓地管理员等身份,层层佐证虚假说辞。
姜某利用AI炮制“父亲患癌”骗局的案件,直指当下AI造假行骗屡禁不止的核心症结。如今,AI生成视频、图片、语音的门槛极低,普通人能很快制作出以假乱真的虚假影像。
然而,长期以来,针对AI造假行骗的监管、追责、惩戒力度普遍偏轻,违法代价较低。治理大多停留在事后删帖、拘留行为人,缺乏常态化、全链条的精准打击。各类AI造假黑灰产分散隐蔽、溯源困难,多部门监管权责分散,没有形成统一的打假闭环。很多利用AI造假行骗的行为,往往因情节轻微、影响不大被从轻处置。这种状况让不少人心存侥幸,肆无忌惮地编造虚假场景牟取私利。
打击AI造假行骗,关键在打“七寸”。AI造假行骗持续泛滥,本质上是惩戒力度跟不上技术发展、普及的速度。因此,相关部门应完善相关制度,提高AI造假行骗的违法代价,对伪造影像、恶意虚构事实骗取钱财等行为从严从重追责,让造假者得不偿失、不敢再犯。只有这样,才可能从根源上遏制这类新型诈骗。
平台的监管漏洞也为AI造假行骗提供了生存土壤。社交平台对虚假合成内容的甄别能力不足,对多账号联动演戏、以悲情人设营销的违规行为排查滞后,事后的处置速度远远滞后于造假传播速度,间接纵容了此类骗局的滋生蔓延。治理AI造假行骗,不能只依靠警方事后打击,平台必须承担主体责任,升级技术识别手段,封堵AI造假行骗内容的传播渠道,提前拦截虚假诈骗内容。
姜某的“朋友圈悲情”沦为诈骗道具,是当下AI技术被滥用、诈骗成本低的真实缩影。要杜绝同类案件重演,不能只靠个案追责,而要加大惩戒力度,有效遏制AI造假行骗现象,守住网络诚信与社会安全的底线。