小红书打假：治理超120万AI托管账号，处置18万篇AI造假笔记

上海网络视听创作者大会聚焦生成式AI治理，小红书公布关键数据

上个月，2026上海网络视听创作者大会刚落幕，关于生成式AI与内容社区之间的博弈再次成为焦点。其中，小红书在其分会场分享的一轮治理数据，确实值得行业内好好琢磨。

小红书集中清理AI造假笔记与批量托管账号，累计下架超18万篇

截至2026年5月，这家平台累计下架了超过18万篇涉嫌AI伪造的笔记，并对120多万个由AI批量托管运营的矩阵账号做了系统性清理。你没看错，是120万。这个数字背后，是平台对“机器流水线”式黑灰产链条的一次精准打击——利用AI工具规模化生产低质、失实内容，伪装成正常分享，试图渗透社区。

生成式AI拟真能力持续跃升，平台高精度识别面临行业共同挑战

这轮治理的强度，几乎是史无前例的。但问题也随之浮出水面：当AIGC在图像、文本、视频等多模态维度上的拟真能力持续跃升，造假内容变得愈发难以肉眼分辨，平台到底要怎么实现高精度识别和实时拦截？这已经不只是某一家平台的事，而是整个行业的共同难题。

小红书推出分级分类治理与常态化机制，融合算法与用户协同

从目前小红书的方向来看，有几个关键词值得关注：迭代升级AI识别模型、推行分级分类治理策略，以及融合人工+算法+用户协同的社区巡查机制。更值得留意的是，这种治理不是运动式的“一阵风”，而是被定位为常态化手段——目标是全面提升对AI生成内容的感知力、研判力和处置力。

业内专家共识：平台需平衡AI生产力与真实性底线，夯实可信互动基座

业内不少专家在大会期间也表达过一个共同判断：大模型深度渗透内容生态的当下，平台既要释放新技术带来的生产力红利，也必须在真实性这条底线上守住阵地。换句话说，既要拥抱AI，又不能让它失控。这一次针对AI造假笔记及托管账号的集中整治，核心目标其实很清晰——夯实社区“真实分享、可信互动”的价值基座。否则，一旦用户对内容的信任开始动摇，那才是平台最核心资产的真正流失。

生成式AI造假能力快速迭代，平台攻防战远未结束

需要警惕的是，生成式AI的造假能力还在快速迭代。今天屏蔽的18万篇，明天可能以另一种形态卷土重来。这场攻防战，远没有结束。