What happened
IT之家 8 月 4 日消息，小红书今晚发布了两项治理公告，分别通报了涉未成年人违规内容及暑期旅行安全专项的治理进展。 截至 8 月 4 日，平台在“清朗 · 未成年人网络保护”专项行动中已累计处置违规笔记 8.4 万余篇、违规评论 10.5 万余条、违规账号 3571 个。 小红书宣布，平台针对三类典型违规行为采取了严厉处置，IT之家总结如下： 一是恶意篡改经典动画内容，部分账号利用 AI 技术炮制“毒动画”，如账号“可 X”恶意生成
Analysis and impact
根据平台披露的案例，部分账号利用AI工具批量生成所谓的“毒动画”，例如将《天线宝宝》等经典儿童IP恶意改编为恐怖、猎奇版本。这些内容往往披着熟悉的角色外衣，实则包含暴力、惊悚元素，对缺乏辨别能力的未成年观众构成潜在心理伤害 IT之家。除了动画内容本身，平台还打击了利用谐音暗语、变种图片进行软色情陪聊引流，以及教唆自残等极端行为，显示出违规手段正变得越来越隐蔽 网经社。
此次事件恰好发生在AI视频生成技术快速迭代的背景下。就在清理公告发布后不久，火山引擎上线了Seedance 2.5 API，其宣称的视频直出、长叙事能力大幅提升，让“AI造动画”的门槛进一步降低 中新网。技术本身是中立的，但当强大的生成工具被恶意用于扭曲童年记忆、制造精神污染时，平台的内容审核机制便面临着前所未有的挑战。小红书随后发布的《AI治理规则公告》，明确鼓励创作者主动披露AI生成内容，并反对AI洗稿、合成他人声音等行为，可视作是对此类风险的制度性回应 IT之家。
对于ACGN爱好者而言，AI本可以是激发二创灵感的绝佳助手，但“毒动画”的出现无疑是对创作生态的一种污染。它提醒我们，在享受技术红利的同时，守护创作底线、保护心智尚未成熟的观众，依然是社区与平台需要共同面对的重要课题。
References
Original source text
IT之家 8 月 4 日消息，小红书今晚发布了两项治理公告，分别通报了涉未成年人违规内容及暑期旅行安全专项的治理进展。 截至 8 月 4 日，平台在“清朗 · 未成年人网络保护”专项行动中已累计处置违规笔记 8.4 万余篇、违规评论 10.5 万余条、违规账号 3571 个。 小红书宣布，平台针对三类典型违规行为采取了严厉处置，IT之家总结如下： 一是恶意篡改经典动画内容，部分账号利用 AI 技术炮制“毒动画”，如账号“可 X”恶意生成恐怖版《天线宝宝》视频，已被永久封禁并全量下架相关笔记。 二是诱导未成年人不良交友，账号“永叽”以“招裴（陪）”“无 hf（会费）”等黑灰产话术为诱饵，诱骗未成年人脱离平台从事软色情陪聊服务，已被永久封禁。 三是教唆未成年人伤害身体，账号“小 * Q”发布“爱我就给我买刀片”等带有自残倾向的极端图文，已被永久封禁并清理相关内容。小红书表示已升级风险识别模型，对圈层暗语、变种图片等恶意规避审核行为实施前置拦截。 暑期旅行安全专项方面，7 月以来小红书针对“危险旅游景点、虚假旅游信息”展开治理，累计清理违规信息万余条。对飞拉达漂流、悬崖秋千、赛里木湖游泳等高危项目笔记实施搜索隐藏和流量限制，干预 20 余组安全隐患搜索词并上线安全提示条。平台同时对以“AB 制”“旅行搭子”“拼车拼团”等名义进行虚假引流的欺诈产业链进行摸排治理。上半年已配合多地警方抓获批量造假注册专业号的黑灰产团队 4 个、嫌疑人 14 名。 在旅游经营资质治理方面，平台集中处置虚假营销账号超 2000 个，处置无资质营销企业账号超 6000 个，无资质营销的个人及导游账号超 9000 个。平台表示将对任何侵害未成年人合法权益的行为“零容忍”，并持续压实主体责任。 相关阅读： 《 网信办将整治毒动画：利用 AI 技术恶搞经典动画形象，刻意放大暴力恐怖元素 》