近日，小红书在北京举办了一场别开生面的AI治理开放日活动，首次全面阐述了平台对于AI生成内容的治理策略。此次活动不仅为创作者提供了明确的创作方向，也彰显了小红书在维护社区真实性和原创性方面的坚定立场。
小红书明确表示，将真实性与原创价值作为AI内容治理的核心标准。平台鼓励创作者将AI作为创意的放大器，而非造假工具或低质内容生产机。为此，所有由AI参与创作的内容都必须主动标识，以保障用户的知情权。小红书用户信任中心负责人吉吉在活动中强调，发布AI治理主张并非为了限制创作，而是为了为创作者提供更清晰的指引，让优质内容获得更多公域流量的支持。
在鼓励的方向上，小红书欢迎创作者利用AI提升作品的信息价值，创作出更具可视化、更易懂的科普内容；也支持利用AI创作有辨识度的虚拟角色或对已有IP进行二次创作；同时，鼓励借助AI进行视觉创作，产出有审美、有叙事的艺术作品，包括插画、绘画以及电影感短片等。
活动中，不少创作者分享了他们在AI创作方面的探索与成果。央美国画毕业生@一方画猫呢 就是其中的佼佼者。她专攻宋代院体画，原本因缺乏动画制作能力而无法将静态画作生动呈现。如今，AI帮她突破了这一技术瓶颈，让画面丰富度和可观赏性大幅提升。她表示，AI是她创作最后阶段的视觉效果放大器，而画面的原创性、核心想法和每一笔手绘仍由自己完成。
除了鼓励优质AI创作，小红书也坚决反对任何破坏社区真实底色的AI行为。平台梳理出了四类反对的AI行为，包括利用AI违规运营、造假、侵权以及进行低质创作。具体来说，平台反对利用AI全自动托管账号、教唆做号等扰乱社区秩序的行为；反对利用AI仿冒名人、虚构人设、伪造个人经历或编造虚假信息等造假行为；反对利用AI侵犯肖像权、著作权的行为；也反对利用AI批量生产同质化内容或传播不良价值观等低质创作行为。
吉吉在活动中表示，小红书社区是真实人与人之间的连接，AI侵权、造假等行为破坏了社区真诚分享的基础，也挤压了真实创作者的空间。平台将根据违规程度采取梯度处理措施，包括限制曝光、警告、封禁等。对于明确由AI托管运营、无真实人类参与的账号，平台将予以封禁。据悉，今年以来，小红书已累计处置各类AI不良行为超百万例，其中AI托管账号超80万个、AI造假笔记近15万篇。
AI科普创作者@大师的AI小灶 在活动中指出，在AI飞速发展的时代，普通人需要警惕AI幻觉、AI造假等风险。他强调，平台对AI内容的系统治理是必要的，人的辨别意识和平台规则需要同步跟上，以缩小这个时间差带来的风险空间。
今年以来，小红书在AI治理方面持续发力。从发布《社区公约2.0》明确反对虚假、鼓励用户对AI内容进行主动标识，到加强自主标记AI生成合成标识的公告；从打击AI托管运营账号的治理公告，到此次首次完整输出AI治理主张，小红书正逐步形成对创作者和用户的完整指引。
