Hehson科技讯 9月3日晚间消息,小红书今日通过官方账号“薯管家”发布《关于AI制作医美、民宿等虚假内容治理公告》称,近期平台发现,部分账号利用AI生成虚假体验笔记,用AI生成或拼接的图片伪造实景,杜撰探店、住宿、就医、美容等使用体验,误导用户决策。
公告称,小红书已将AI制作发布虚假内容纳入常态化治理,并从三方面加大治理力度:细化管控重点,以AI生成图片伪造实景、AI批量生成同质化体验笔记、虚构亲历经历为高风险场景重点识别,文旅住宿、医疗医美、教育、房产等品类优先覆盖;聚焦存量清理,从笔记、评论、账号等多环节清理历史AI虚假内容;增补策略严控新增,同步强化未标识AI内容的识别能力,对同一图片或视频跨地域、跨账号重复使用的情形加强检测。
公告披露,今年6月至8月,平台清理处置AI制作发布的虚假笔记近12万条,并列出AI虚假医美体验、AI虚假民宿图文体验和AI虚构家庭背景及教育经验并销售教辅材料三类典型违规内容,相关内容已下架,账号予以处置。
事实上,医疗医美一直是小红书重点治理的领域,围绕AI虚假体验、内容真实性、医美资质、违规导流等营销宣传风险,持续完善治理机制。今年6月至8月,医美领域日均下架各类违规笔记超4000条,该时间段共封禁违规账号4200余个。
在最新公告中,小红书表示,平台鼓励创作者使用AI辅助创作,同时希望各位创作者合理使用AI,不虚构未曾到访的地点、未实际使用的产品或未亲身经历的事件,一起守护社区的真实与信任。公告同时呼吁,如发现疑似AI编造的虚假内容,可通过笔记右上角的“举报”入口向平台反馈。