推动人工智能向上向善，守护清朗的网络空间，让每个孩子内心的好奇与欢喜都能遇见有温度、有养分、有底线的优质内容，这是全社会不容推卸的责任，也是时代交给我们的一道必答题。
据7月7日北京日报客户端报道，进入暑假，看动画成为不少小朋友假期生活的一项内容。但家长们发现，短视频平台上那些标注给3~6岁儿童早教启蒙的动画，很多充斥争斗、背叛和暴力等内容，投诉给平台后也迟迟不见下架处理。记者实测，举报10条仅1条显示“举报通过”，处理办法是“已限制推荐给其他用户”而非下架，通过精准关键词搜索的用户仍然可能看到。
女仆灰猫下毒毒死了猫妈妈，白虎爸爸露出腹肌和灰猫出轨，猫女儿目睹一切后被一脚踹出家门……这类视频打着“儿童动画”“早教启蒙”标签，但剧情荒诞无逻辑、常识扭曲错乱、暗藏低俗暴力，借助平台算法推荐机制，在儿童专属的观看场景中广泛传播和渗透，具有不可小视的危害。
部分披着“早教”“启蒙”外衣的AI魔改动画，无异于低龄孩子的“网络精神垃圾”，可能会使孩子产生心理恐惧、诱导其模仿不良情节，可能扰乱孩子的认知、扭曲是非善恶观、消解正面教育的效果。未经授权使用知名动画角色、对其中画面进行二次篡改等，则涉嫌侵犯著作权，也在一定程度上会挤占优质早教内容的传播空间，扰乱正常的网络视听传播秩序。
一段时间以来，网络空间中，AI魔改四大名著、颠覆历史英模形象、恶搞传统文化IP的视频层出不穷；AI生成虚假科普、歪曲生活常识、伪造教育内容的帖子也在不少平台传播。当AI魔改渗透到低龄孩子身上，我们必须形成共识：新技术应该成为滋养成长、赋能美好的重要力量，而不能沦为啃食童年底色、扭曲价值认知的隐形陷阱。
令人担忧的是，现实中投诉举报这类视频却相对困难。从报道看，举报入口藏得深、举报通过率低、即使通过也仅是“限制推荐”，这暴露出平台审核机制存在问题，也凸显了当下AI内容治理面临的困境。一方面，AI内容可以秒级生成、海量传播，当平台的人工审核团队捉襟见肘，一些平台甚至选择用AI审核AI。一旦审核算法存在漏洞，一些灰色内容便可能成为“漏网之鱼”。另一方面，部分平台为追求流量与收益，存在对违规内容“睁一只眼闭一只眼”的情况。
技术洪流之下，不良内容的传播形式也在迭代，对此，监管部门在逐步调整思路，从专项行动入手进行集中整治，着力建立起常态化的治理机制。今年4月，中央网信办开展“清朗·整治AI应用乱象”专项行动，同时开设“涉AI应用乱象举报专区”。国家广播电视总局今年1月起部署开展“AI魔改”视频专项治理，明确提及“清理将少年儿童所熟知、所喜爱的动画形象进行改编生成的各类邪典动画”。
我们呼唤更快速高效的举报处理路径，希望相关平台能严格落实整治要求，期待探索和建立一套科学有序的治理框架；让算法推荐遵循“儿童利益最大化”原则；使AI使用的违法成本高于违法收益等。这需要监管部门持续加强AI应用重点环节管理，督促平台提升AI防治能力；平台方面升级AI内容甄别算法、优化AI内容溯源机制，从技术层面遏制无底线创作；孩子的监护人、教育工作者等加强儿童网络观看监护，提升对不良网络内容的辨识能力等。
移动互联网时代，大小屏幕已成为不少孩子观察世界的重要窗口，这些窗口呈现着怎样的“风景”、传递出怎样的观念，影响着孩子们成长的心境、童年的底色——数字时代的童年，不该被算法投喂的劣质内容裹挟。推动人工智能向上向善，守护清朗的网络空间，让每个孩子内心的好奇与欢喜都能遇见有温度、有养分、有底线的优质内容，这是全社会不容推卸的责任，也是时代交给我们的一道必答题。
公赢网提示：文章来自网络，不代表本站观点。
