转自:中国质量报
本报讯 (记者秦海峰)近日,山西省消费者协会(以下简称“山西省消协”)发布警示,直指利用“AI换脸”“AI配音”(即“深度伪造”技术)实施的新型诈骗陷阱。此类骗局技术性强、手法新颖,对公众财产安全构成严重威胁,全社会须高度警惕,并协同防范。
警示中提到,技术滥用的诈骗新“剧本”通常会通过以下几步完成。一是信息搜集。他们在社交媒体(如抖音、微信视频号、微博)上搜集消费者或其亲友公开发布的视频、语音,用于AI模型训练。二是制造假象。利用“深度伪造”技术,合成一段足以以假乱真的视频或语音。三是情境设计。编造一个紧急、需要立刻转账的理由,降低消费者的警惕性,让消费者没有时间思考或核实。四是实施诈骗。通过视频通话或发送语音、视频片段的方式联系消费者,要求转账。
当前高发的典型诈骗场景主要有3类。一是合成子女、父母或好友的视频,在视频通话中声称“遇到急事(如车祸、被抓)、需要钱周转、交学费”等,要求消费者向指定账户转账。视频里的“亲人”面容焦急,声音逼真,极具欺骗性。二是针对公司财务人员或普通员工,骗子冒充领导通过视频会议或发送指令视频,要求紧急支付合同款、保证金等。三是合成执法人员视频,声称涉嫌违法犯罪,要求消费者将资金转移到“安全账户”进行核查。
山西省消协提示,面对技术骗局,消费者须提高警惕,牢记“三不二要”原则。其中,“三不”是底线,即不轻信,凡是通过视频、电话、短信等非见面方式要求转账汇款的,都要高度警惕,即使看到真人视频、听到熟悉的声音,也要保持怀疑,因为骗子会利用“紧急情况”制造恐慌,让消费者来不及思考;不转账,在未通过其他途径100%核实对方身份前,坚决不进行任何转账操作,这是守住钱袋子的最后一道防线,也是最关键的一道防线;不泄露,保护好个人及亲友的身份信息,谨慎在社交媒体上分享清晰的正面视频、含有声音的片段,特别是涉及身份证、银行卡等敏感信息的视频,同时设置好友权限,避免信息完全公开。
“二要”是关键,即要核实,如果“亲友”通过视频借钱,请务必挂断电话后,使用手机通讯录里存储的号码(而不是对方打来的号码或提供的号码)回拨过去,或通过其他共同认识的人进行核实,也可以和家人、挚友约定一个他人不知道的暗语或问题,在涉及大额资金往来时进行验证;要警惕,AI技术并非天衣无缝,仔细观察视频中的人物可能出现表情僵硬、眨眼不自然、口型对不上、声音有轻微电子音或断句不合理等现象,真正的公检法等司法执法机关绝不会通过视频或电话要求转账到“安全账户”,所有要求消费者保密、不能告诉任何人的行为都是诈骗的典型特征。
【消费指南】