FOCUS 聚焦频道

优质内容入模型、处置AI魔改 平台加速未成年人保护治理

人民网北京11月1日电 (记者孙阳)日前,小红书在“大城小聚·城市会客厅——未成年人保护治理开放日”现场公布未成年人保护治理阶段性进展:暑期扩充超300万篇优质笔记进入未成年人模式,今年7月至9月处置AI魔改、毒动画等相关违规笔记超12万篇,针对“小圈层暗语”搭建自进化语义识别体系,日均学习“新暗语”超2000个。平台同时宣布,“未来薯地计划”全面升级,从线上延伸到线下,未来一年将联合全国博物馆、动植物园、体育户外等青少年友好机构,共同组织至少100场面向青少年的线下活动。

小红书未成年人保护与治理相关负责人介绍,今年暑期,平台根据青少年高频搜索和兴趣偏好,全面扩充未成年人模式内容池,内容覆盖艺术审美、科学与自然、生活实践、体育与运动、人文历史、阅读与写作等十大方向。入池笔记均来自站内优质博主,内容先经平台大模型筛选,再由人工复核。

在增加优质供给的同时,平台集中清理AI魔改、毒动画和不良暗语等违规内容。平台结合AI特征识别、图像识别技术和经典动画IP库,精准召回儿童邪典、AI魔改和不良恶搞内容;同时,深挖批量制作传播团伙,采取封号禁言处置,对涉嫌违法犯罪的线索移交公安机关,依法追究法律责任。

针对“小圈层暗语”“日抛型梗”更新快、隐蔽性强等治理难点,平台搭建自进化语义识别体系,自动召回新出现的变体和暗语。该负责人表示,未成年人的正常表达平台不会随意干预,但有人借这些暗语售卖违规商品或传递不良信息,平台将依法依规处置。

据介绍,小红书围绕隐私肖像保护、财产反诈教育、身心健康建设等搭建保护机制,并通过风险感知、模型巡检、蓝军攻防、安全回查四种手段交叉验证,建立“主动感知、提前预警”的全景治理网络。

财产反诈教育方面,平台设置未成年人模式、直播身份认证、算法引入识别及全覆盖反诈教育四层防线。今年暑期,平台算法识别出满足高危特征的涉诈犯罪团伙,并向公安机关提供线索。开学季,针对“厌学”情绪抬头,平台在搜索侧进行专项干预,优先置顶“开学焦虑怎么缓解”“恢复上学幸福感Tips”等正向引导内容。

据介绍,“未来薯地计划”内容共建工作开展3个月以来,已有超过200家机构媒体、青少年友好出版社、博物馆等机构加入。小红书副总裁许磊表示,“把安全底线守住,把真实生活打开。小红书是连接真实生活的社区,真实生活也是青少年成长不可替代的练习场,未来一年期待跟生态伙伴一起,共建青少年健康成长空间。”

北京师范大学新闻传播学院党委书记、青少年数字发展研究中心主任方增泉表示,“在场感”和“体验感”,是帮助青少年重建专注力和真实社交能力的重要途径。“这样的成长空间,没有任何一方能够独自建成:平台要提供守护与引导,场馆要敞开大门,学校要打破围墙,家庭要把周末还给孩子。”

赓续长征伟力 史诗照鉴征途|纪录片《永远的长征》即将播出

2026-11-02

关于进一步优化经常项目外汇管理 国家外汇管理局公开征求意见

2026-11-02

11月香港美食月 全港逾400間商戶推限定美食及餐飲優惠

2026-11-02

别只盯着净利润看!五大险企的“保险服务业绩”竟然赚翻了

2026-11-02

“组团赚慢钱”,友邦、中宏、大家等险企年内多次出手

2026-11-02

10家银行系寿险公司三季度业绩分化:6家亏损,其中4家单季亏超10亿元

2026-11-02

“好服务”体验日|接续“好房子”建设,中海都闕臺的“好服务”答卷

2026-11-02

紫金财产保险龙岩中心支公司被罚21.5万元:涉财务数据不真实等

2026-11-02

太平人寿保险辽宁电话销售中心被罚5万元:涉误导销售

2026-11-02

一系列便利化保障举措提速落地 助力全球特色“好物”顺畅奔赴“四叶草”

2026-11-02

【广交世界 互利天下】产品升级激发消费新热潮 企业抢抓风口开辟外贸新赛道

2026-11-02

“China Haul”火热 止痛贴、刺绣……透过小小行李箱解锁入境消费新看点

2026-11-02

吉林省自然资源厅原党组书记、厅长李相国接受审查调查

2026-11-02

2026年乌镇峰会·观察 | 未来已来,“AI搭子”点亮生活!

2026-11-02

1010亿元,惠及3355万人次!“数”说生育保障更有温度、更有品质

2026-11-02

濱崎真緒「X」向日本網民還原事件始末 待精神科醫生檢查最快今日出院

2026-11-02

(有片) 私家車撞港珠澳大橋檢查閘逃脫 「銳眼」助警包抄 屯門截車擒人

2026-11-02

六年老将离场!董监高大洗牌之下,千亿中荷的“资本算术”谁来做下一道题?

2026-11-02

中荷人寿:公司总经理杨勇艇辞任,副总经理门小海担任公司临时负责人

2026-11-02

迎“寒”而上“按需供暖” 北方多地提前开栓供热保障居民温暖入冬

2026-11-02

商品→服务、实体→云端,科技重新定义商贸场景 激活终端消费新潜能

2026-11-02

【APEC深圳之约】医疗、教育、出行,全打通!从“北上清单”看互联互通

2026-11-02

记者去哪儿|一片纸尿裤的“安心”从哪来

2026-11-02

沙漠里的绿色能源——中企助力阿联酋低碳转型

2026-11-02

分享文章

服务热线