央广网北京11月8日消息(记者汪宁)11月初,有网友反映,作业帮App一道物理题目以“生命可以轮回,高考只有一次”为引子,将学生坠楼描述为“受地球引力影响不慎做自由落体运动”,要求计算60kg高中生从11楼跳下的平均速度、落地动能等参数。这道题目被网友认为“漠视生命”“突破伦理底线”。
这并非个案。就在前不久,宝宝巴士旗下儿歌App因开屏广告问题深陷舆论旋涡。江苏昆山家长王女士反映,这款面向低龄儿童的App频繁弹出低俗擦边成人内容,点击后自动下载陌生软件,而儿童缺乏辨别与关闭能力。
对此,中国教育科学研究院研究员储朝晖表示,两起事件虽表现形式不同,却共同指向同一核心问题,那就是面向青少年的产品本应是知识传播与成长陪伴的载体,却在内容审核与价值观把控上存在缺失,触碰教育伦理底线,凸显行业审核机制的系统性缺陷。
实际上,我国高度重视未成年人网络保护,而且出台了法律法规。比如,2021年《中华人民共和国未成年人保护法》修订时新增“未成年人网络保护”专章。此外,国务院出台《未成年人网络保护条例》作为行政法规,明确要求面向未成年人的在线教育产品不得插入网络游戏链接、推送无关广告。
在北京教育学院教育政策研究中心副主任、北京教育法治研究基地研究员顾盼盼看来,在信息时代,未成年人接触网络、智能终端及线上教学服务的需求凸显,但“徒法不足以自行”。监管部门需从细化规范、明确技术与行业标准、加强法律执行监督等方面完善,网络服务及智能终端提供者需落实法律要求、建立含外部独立监督机构的合规体系、明确自身法律责任(含监管第三方内容)。同时,需通过家校社协同提升未成年人网络素养,引导其安全、科学、文明、合理用网。
事件回顾:不良内容频现教辅产品
11月初,有网友反映,作业帮App的一道物理题目以“生命可以轮回,高考只有一次”为引子,将学生坠楼描述为“受地球引力影响不慎做自由落体运动”,要求计算60kg高中生从11楼跳下的平均速度、落地动能等参数。
“这是我见过最恶毒的题,漠视学生,真恶心。”网友说,此类表述消解生命价值,可能对承压学生造成二次伤害。面对记者采访,作业帮客服回应称题目已下架,但未明确说明题目来源与审核失职责任。
仅一周前,宝宝巴士旗下儿歌App因开屏广告问题深陷舆论旋涡。江苏昆山家长王女士反映,这款面向低龄儿童的App频繁弹出低俗擦边成人内容,点击后自动下载陌生软件,而儿童缺乏辨别与关闭能力。
针对此次广告事件暴露出在广告监管和审核上的问题,宝宝巴士表示进行三方面整改优化:一是针对内部审核出现的问题,已对审核负责人进行严肃处理,决不姑息;二是完善对公司广告合作方的审核机制,严格筛选正能量的广告合作方,决不允许类似事件再次发生;三是针对广告合作方无法监控的广告,宝宝巴士立即组建研发团队着手研发广告强制拦截功能,对其实施强制拦截。
对此,储朝晖表示,虽然两起事件涉及不同品类,但它们都暴露出教辅电子产品的内容审核机制未能有效过滤危害青少年身心健康的不良信息。“教育类产品的核心属性是育人,任何商业行为或内容创新都不能突破生命尊重与身心健康的底线,这是不可逾越的红线。”
电子教辅行业资深人士杜乐(化名)表示,此次“作业帮”的不当题目事件暴露出两个方面问题,一是出题者素养不足,部分出题者存在“价值观偏差”和“猎奇心理”,选用“学生跳楼”这类悲剧事件作为题目情境,忽视未成年人心理承受能力,且未意识到教辅内容兼具“知识传递”与“价值观引导”双重功能;二是内容来源不规范,存在“网络乱抄”现象,如个别出题者不严谨,随意举例后被企业直接采用,且未经过来源核查与质量筛选,导致非合规内容流入教辅产品。
事件背后:内容审核存在短板
杜乐从事电子教辅资料行业近20年。他介绍,传统纸质教辅出版严格执行“三审三校”制度:“作者出稿后,需经编辑、专业编审至少两至三轮审核,逐字核查内容。”
杜乐表示,根据《网络出版服务管理规定》,网络出版物应当符合宪法法律、社会主义核心价值观的要求,但实际操作中,电子教辅的审核标准明显低于纸质出版物。
“当前不少教辅电子企业的审核团队以技术人员和编辑为主,缺乏教育工作者、心理学者等专业力量参与。审核标准重形式轻实质,对隐性伤害缺乏预判能力,导致不良内容有机可乘。”他说。
杜乐分析称,电子教辅内容问题多出在三个环节:一是出题源头价值观偏差,部分教师为追求“贴近现实”,选用负面案例,忽视教育导向;二是审核流程缺失,一些企业为压缩成本,省去人工审核环节,依赖机器分发;三是内容来源不规范,存在“网络乱抄”现象,未经筛选直接采用。
杜乐表示,部分企业为追求题库规模或广告收入,甚至简化审核流程,采用AI自动审核替代人工复核,而算法难以识别伦理风险与价值导向问题,一些电子教辅连一审都没有,更别说三审。他举例,某教辅平台内部审核规范显示,其题目审核仅要求“知识点准确”“难度适配”,未涉及伦理价值与心理影响评估。而作业帮相关工作人员在回应事件时坦言“不清楚题目具体由谁设计”,由此来看,教辅电子产品的内容审核存在明显短板,暴露出命题、审题、发布全流程责任虚化。
除了不良信息问题,有家长反映部分教辅电子资料质量低劣。小桐(化名)称,为孩子购买的某品牌学习在使用中发现,相关题库题目错误很多,严重误导孩子,其宣传效果远高于实际使用体验。另有多位家长称,“使用过期资料、货不对板、夸大宣传”也是一些教辅电子资料中经常出现的问题。
“一些问题资料的提供者可能并非持证教师,更多从商业角度出发,而较少考虑德育与人的成长发展。”储朝晖说,教辅电子产品的内容审核不是企业私事,而是关系下一代成长的公共事务。当前行业自律不足、监管滞后的现状,导致审核漏洞层出不穷,必须建立更严格的全链条监管体系。
对此,杜乐表示,一些教辅机构或企业可能过度依赖AI批量生成题目,可能批量生成价值偏差、甚至编造历史的题目,影响范围更广,纠错更难。相较于人工出题的个别问题,AI内容的系统性风险更高。根据《生成式人工智能服务管理暂行办法》,生成内容应当体现社会主义核心价值观,不得含有违法不良信息。但在现实中,AI“幻觉”可能导致虚构历史事件,其识别和防范难度更大。
杜乐还表示,一些平台为吸引用户点击,刻意设计猎奇题目、使用出格表述。甚至,有企业依赖第三方广告变现,对广告内容睁一只眼闭一只眼,这些行为严重侵蚀了教育产品的本质。
筑牢责任:构建多方共治的审核防护网
记者梳理发现,事件发生后,相关企业已启动整改。宝宝巴士宣布全面叫停开屏广告合作,组建研发团队开发广告强制拦截功能,并严格筛选合作方;作业帮则表示将排查类似题目,进行批量处理。但是,专家认为,短期整改不足以解决根本问题,企业需建立长效机制。
对此,杜乐认为,从企业与行业层面,教辅电子企业应重构审核体系,将伦理审核、心理影响评估纳入核心标准。建立“命题-初审-复审-终审”四级审核机制,配备教育专家、儿童心理专家等多元化审核团队,加强出题者、外聘作者培训,明确选材标准(如禁止悲剧事件、低俗元素),杜绝“网络抄袭”,对内容来源进行严格核查。保留审核台账实现“责任可追溯”。对第三方广告合作,应签订明确的内容规范协议,建立黑名单制度,从源头杜绝不良广告。建立教辅电子行业基本规范,将“内容合规率”“用户负面反馈处理时效”纳入企业绩效考核,摒弃“流量至上”逻辑,推动行业自律。
在监管层面,杜乐认为,首先,可设立权威评审机构,如依托行业权威机构建立覆盖全国的教辅电子产品评审制度,实现“出版前审核,防患于未然”。其次,完善制度与标准。譬如,制定“教辅数字内容安全红线”(如禁止暴力、血腥、负面事件题材),参考影视行业分级模式,按学生年龄段划分内容适宜等级明确电子出版号“审核-监督-问责”全流程规则。发放前要求企业提交内容审核方案,明确审核团队与流程;发放后每季度开展“随机抽检”,重点核查价值观导向与合规性。发现问题后限期整改,整改不到位的暂停电子出版号使用,严重者吊销资质。最后,还要建立常态化监测,开通“教辅内容违规举报通道”,重点核查内容导向与广告植入问题,鼓励家长、教师反馈问题,对有效举报给予奖励,形成“政府+社会”协同监督模式。
储朝晖认为,可建立“源头—上网—使用”三环节协同监管机制。源头上提升内容提供者素养,上网环节由“平台+教育专业人员”双重把关,企业还应建立用户反馈快速响应机制,使用环节开通家长举报通道,对涉及生命安全、低俗色情等敏感内容的投诉,实行24小时核查处置,形成社会监督闭环。
专家:应加强法律执行与企业合规体系建设
在顾盼盼看来,2021年《中华人民共和国未成年人保护法》修订时首次新增“未成年人网络保护”专章,标志着网络保护正式纳入未成年人核心法律保障。此外,《未成年人网络保护条例》以行政法规形式进一步细化保护措施,属国际范围内较先进的专门性立法实践,与《中华人民共和国未成年人保护法》形成“法律+行政法规”的双层保障。
顾盼盼表示,为避免“法律空转”,政府监管部门需从多维度完善未成年人网络保护工作,细化上位法规范,制定未成年人有害信息的识别范围、类别、判断标准及标注提示方法,让法律条款可落地。另外,监管部门应明确技术与行业标准,确定专门供未成年人使用的智能终端产品“违法和有害信息识别功能”的技术标准、行业标准、国家标准,并对功能合规性进行评估与监管。再者,政府监管部门依据《未成年人网络保护条例》明确要求加强法律执行与监督,依据《未成年人网络保护条例》罚则,对违法的网络服务平台、智能终端服务商处以罚款。
她还表示,网络服务和智能终端提供者需承担三项特殊责任面向未成年人的产品或服务提供者,需严格落实法律要求,全面遵守《中华人民共和国未成年人保护法》“网络保护”专章及《未成年人网络保护条例》的规定,杜绝在学习类产品中推送无关广告或有害内容。构建专门的“未成年人网络保护合规制度体系”,成立主要由外部成员组成的独立监督机构,避免内部监督因利益关联失效,确保监督的独立性与权威性。
顾盼盼说,平台应明确自身法律责任,对第三方在平台上投放的广告、植入的内容承担主动识别与监管责任,不得以“内容由第三方提供”为由规避自身义务,若平台出现危害未成年人身心健康的信息,需直接承担相应法律后果。其次,加强家校社协同,提升未成年人网络素养的关键路径,引导未成年人实现“安全、科学、文明、合理”用网,从“被动保护”转向“主动防范”。比如,学校将网络素养纳入教育内容,教授不良信息识别方法,家庭引导孩子启用未成年人保护模式等,监督合理用网,社会则提供更加健康的网络环境,配合学校与家庭形成保护合力。