Source: IT之家View original ↗
Copyright remains with the original source. This site only collects, translates, or reformats the material.
Media: 0 verified, 3 source-only
What happened
IT之家 8 月 7 日消息,小红书官方昨天发布《AI 治理规则公告》,明确 AI 账号的治理原则。 IT之家从公告内容获悉, 小红书平台创作者若使用 AI 虚拟人形象运营账号 , 则需要如实说明创作方式 ,主动说明后流量不会受到影响。AI 生成、润色的笔记需要主动披露, 未主动标注的 AI 内容将由平台统一识别、添加标识 。 同时, 小红书反对使用云端 AI 工具或手机脚本自动运营账号 、 冒充真人互动 。或传授使用 AI 洗稿、
Analysis and impact
公告的核心在于建立一套“主动披露+平台识别”的双轨机制。根据 IT之家 的报道,创作者若使用 AI 虚拟人形象运营账号,必须如实说明创作方式,平台承诺主动披露后流量不受影响。对于 AI 生成或润色的笔记,同样需要主动标注;未标注的内容,平台将统一识别并添加标识。这意味着,小红书试图在鼓励技术应用与保障内容真实性之间寻找平衡,而非简单地排斥 AI。
公告的另一重点在于打击滥用行为。平台明确反对使用云端 AI 工具或手机脚本自动运营账号、冒充真人互动,并将“传授 AI 洗稿”等行为列为治理对象。这直接回应了当前内容生态中利用 AI 进行低质批量生产、篡改原创内容以规避查重的灰色操作。值得注意的是,公告还特别提及反对“合成他人声音”和“捏造新闻”,这些举措与近期业界对 AI 深度伪造(Deepfake)及虚假信息传播风险的警惕趋势相呼应。
从更广的行业视角看,此类平台级治理规则的出台并非孤例。就在公告发布的前一天,OpenAI 在其博客中披露了针对最新模型 Astra 的网络安全评估,并强调了强化安全控制与防护措施的重要性 OpenAI Blog。这反映出,无论是模型开发方还是内容分发平台,都在加速构建面向生成式 AI 的治理框架。小红书的规则,本质上是将行业对 AI 安全与伦理的宏观关切,落地为普通创作者可理解、可执行的社区规范。
References
Original source text
IT之家 8 月 7 日消息,小红书官方昨天发布《AI 治理规则公告》,明确 AI 账号的治理原则。 IT之家从公告内容获悉, 小红书平台创作者若使用 AI 虚拟人形象运营账号 , 则需要如实说明创作方式 ,主动说明后流量不会受到影响。AI 生成、润色的笔记需要主动披露, 未主动标注的 AI 内容将由平台统一识别、添加标识 。 同时, 小红书反对使用云端 AI 工具或手机脚本自动运营账号 、 冒充真人互动 。或传授使用 AI 洗稿、去水印、规避审核的起号方法。以及反对使用 AI 合成他人声音、面孔发布内容,用 AI 捏造新闻事件、社会热点进行引流,或生成低俗、猎奇低质内容。 对于以上平台反对行为,小红书将根据情节严重程度, 采取限制分发 、 禁言 、 封禁账号等梯度的处罚措施 。涉及违法违规、色情等安全底线的账号,无论是否由 AI 驱动,均适用社区规则,一并严格管控。