开学季各类暖心求学短视频刷屏网络,一则“常州家长驾驶尾号985面包车,四千里护送女儿赴哈尔滨工业大学报到”的视频走红社交平台,凭借巧合的“学霸车牌”和温情送学故事收获大量点赞。不过,常州警方核查发现,“苏DWE985”号牌并未启用,相关画面为AI加工制作,内容存在演绎虚构成分。
近日,常州一自媒体博主在社交平台发布了一条千里送娃上名校的视频,引发网友关注。视频画面显示,在高速路上,一辆车牌号“苏DWE985”的面包车正在前行,面包车后门张贴的红纸上写着“四千里陪闺女,哈工大启新程,请让我先走,谢谢”。视频配文写道:“路上活捉一辆‘学霸专车’!苏DWE985,后窗上还贴着‘哈工大报到’,大哥这排名拉满了”。朴素的面包车、“985”尾号车牌、送学子入读名校的叙事,引发网友的情感共鸣,在微信视频号上收获了近万点赞,评论区内大量网友纷纷表示羡慕和祝福。
网络视频截图不过,有细心的网友发现:视频末尾最后两秒,车牌号“985”突然变成了“995”,对这个视频的真实性提出了疑问。媒体也在视频画面左下角发现一行包含“AI生成”字样的小字,但据了解,该字样并非博主主动标注,是平台自动生成的内容备注。
针对网传内容,媒体向常州警方核实相关信息,相关负责人表示,经官方系统核查确认,无“苏DWE985”号牌的备案记录,“苏DWE995”有登记,却并非视频中的白色面包车,视频画面里的车牌字符光影、细节存在AI生成痕迹,是博主专门通过制造戏剧化巧合,放大传播效果。
警方表示,机动车号牌是公安机关交通管理部门核发的法定车辆识别标志,网友P图篡改号牌并在网络传播,容易误导公众,也存在被效仿的风险,情节严重的还将依法承担相应法律责任。
AI造谣事件并非偶发个案,近年来AI谣言经常出现在各类公共事件中,误导公众认知。层出不穷的AI造谣案件,揭示了一个值得全社会警惕的趋势:即人工智能的“笔”极有可能被不法之徒利用,让伪造信息、编造谣言的技术门槛不断走低、成本大幅下降,而我们因谣言付出的社会代价则可能持续攀升。
经济日报此前发文指出,相较于人工造谣,AI造谣呈现成本低廉、生产高效、内容逼真、形式多样的特点,为网络空间治理带来了全新挑战。造谣者只需输入相关指令,就能借助AI手段生成虚假的数据报告、现场照片、专家解读视频等多模态内容,颠覆了眼见为实的常规认知。一些AI谣言还利用真假掺杂、素材拼接等手法,迷惑性显著增强,进一步加大了甄别难度,让人防不胜防。
面对井喷式增长的AI谣言,仅靠传统的人工核查显然力不从心。有效遏制AI谣言,需树立“以技治技”的解决思路,搭建起覆盖实时监测、智能识别、追本溯源、风险预警的全链条智能防线。以抖音平台为例,2025年,在AI大模型技术的助力下,其识别疑似信息的时效单位从“天”缩短为“小时”,全年谣言内容曝光量下降90%,凸显技术反制在谣言治理中的优势。
筑牢长效治理根基,既要依托技术破局,更要厘清多方权责。监管部门须加强治理的系统性与前瞻性,构建事前预防、事中干预、事后追责的全周期监管体系,推动工作从“被动监管”向“主动服务”转变。执法部门要健全协作机制,强化联动配合,持续加大对AI造谣黑灰产的打击力度,抬高违法违规成本。平台作为信息分发枢纽,需严格落实《人工智能生成合成内容标识办法》等管理要求,对未规范标注的内容进行补标或纠正。同时,对社会热点和敏感议题加大审核监测力度,一旦发现AI谣言,立即采取限流、下架等措施,并对造谣传谣的账号依规实施禁言等处罚。
AI造谣可被追究刑责
我国治安管理处罚法规定,故意散布谣言,谎报险情、疫情、火情、警情或者以其他方法故意扰乱公共秩序的,处五日以上十日以下拘留,可以并处1000元以下罚款,情节较轻的,处五日以下拘留或者1000元以下罚款;若编造谣言在信息网络或者其他媒体上传播,严重扰乱社会秩序的,还可能构成刑法的编造、故意传播虚假信息罪,面临三年以下有期徒刑、拘役或者管制;造成严重后果的,可处三年以上七年以下有期徒刑。
司法实践中,相关案件判决已明确了AI造谣的刑事追责尺度,为AI造谣敲响了警钟。今年4月,湖南省首例AI造谣涉刑案件宣判,犯罪嫌疑人阳某为吸粉引流,使用AI剪辑软件制作发布了“化工厂重大事故”“持刀抢劫珠宝店”等恶性虚假视频,引发网民恐慌。阳某因犯寻衅滋事罪,后被法院依法判处有期徒刑六个月。
来源 | 中国经济网微信综合现代快报、经济日报、北京日报
审核 | 周扬
编辑 | 王晓娇