一开始，小红书把整治重点放在 AI 起号引流带货、售卖 AI 账号课程这类基础违规行为上。
后来，随着治理的深入，范围逐渐扩大到违规 AI 换脸、换声等侵犯他人权益的行为，还加强了对 AI 内容标识的要求。平台不仅清理了大量违规内容，像 “利用 AI 生成低俗猎奇视频”“假冒主播营销” 等，还对不少风险账号采取了限流、封禁措施。
从公布的数据来看，已经处置了近六千条违规笔记，封禁了近百个风险账户，成果确实不少。
6月20日发布的《“清朗·整治AI技术滥用”专项治理公告》，则公示了近期的违规典型案例：
用户 “播 *********）” 违规推荐营销AI群控软件，制造直播虚假流量；
用户 “辉*品” 违规利用AI技术假冒某主播违规营销带货产品；
用户 “D****” 违规使用AI软件生成谣言以博取流量；
用户 “小*生” 违规使用AI软件生成低俗擦边内容。
不过，在我看来，虽然小红书的整治行动很有必要，也取得了一定效果，但目前社区里的 AI 乱象依然不容小觑。
很多网友反映，现在打开小红书，还是能看到大量 AI 生成的批量照片和内容，有些甚至被用来诈骗，比如用 AI 图冒充真实摄影作品。这说明平台的治理力度还有提升空间。
而且，在整治过程中，如何避免误伤原创作者也是个大问题。毕竟现在 AI 技术越来越发达，有时候连专业人士都很难一眼分辨出内容是不是 AI 生成的，更别说普通用户和平台的审核系统了。
说到哪类 AI 内容或账号在小红书上出现最多，我觉得 AI 生成的 “高颜值” 打卡照、虚假种草笔记以及批量生产的情感鸡汤文特别常见。
很多所谓的 “网红打卡地” 照片，可能都是 AI 生成的，看着特别漂亮，但实际根本不是那么回事。还有一些虚假种草笔记，用 AI 生成产品使用效果，误导消费者。
至于未被纳入治理范围的违规行为，我认为像 AI 生成的同质化内容，虽然没有明显的违法违规，但大量相似的内容充斥平台，影响用户的浏览体验，也应该引起重视。另外，有些利用 AI 技术进行数据造假，刷点赞、评论的行为，目前可能还存在监管盲区。
小红书这次的整治行动，就像是一场给社区 “大扫除” 的行动。想要彻底清除 AI 乱象，让社区环境真正清朗起来，光靠平台的努力还不够。
一方面，平台要不断优化 AI 内容识别技术，提高审核的精准度，既能有效打击违规行为，又能保护原创作者的权益；
另一方面，也需要用户提高警惕，遇到可疑的 AI 内容及时举报，共同维护社区生态。只有平台和用户齐心协力，才能让小红书重新成为大家分享真实生活、获取有用信息的优质社区。
作者 | 小七
*个人观点，不代表官方
