暴露图片、成人漫画……当张先生看到女儿在步步高家教机上观看的内容时,他非常生气。
张先生发现女儿在步步高家教机上用一款名为“小嘟嘟”的APP与别人聊天,并发“你爱我吗?”之类的文字,他认为,这已经超出了一个8岁小女孩对感情的理解范围。
“这很难防范,这么小的孩子怎么能看这种东西?”张先生说。
中国政法大学诉讼法研究所副教授王振辉在接受未来网采访时表示,此次事件影响十分严重,不禁让人质疑,如果连辅导班都含有色情内容,网络空间是否还有净土?
记者注意到,这款针对未成年人推出的辅导机曾多次被曝出涉嫌色情问题。
步步高辅导机再现色情内容
去年,张先生给8岁的女儿买了一台步步高S5型号的辅导机,张先生说,之所以选择步步高,是因为这款辅导机只能从其自家的应用商店下载软件,“比较安全”。
本以为稳妥的张先生在孩子的家教机上看到了一款名为“小度皮”的APP,浏览几分钟后,他发现“小度皮”APP里有些内容并不适合孩子观看,不仅有比较暴露的画面步步高学习机用的是什么软件,甚至还有成人漫画。
张先生称,女儿是通过登录“小度皮计算器”APP进入“小度皮”APP的,在“小度皮计算器”APP下方,有“小度皮”APP的推广,点击后就能直接登录“小度皮”。
对此,步步高家教机方面回应称,“小度皮”APP为第三方软件,步步高家教机无法安装除其自带程序之外的任何软件,该软件的版本与家教机不兼容,目前该软件已经下架。
“小度皮”APP的开发商为北京久事佳科技有限公司,该工作人员表示,“小度皮”APP有专人负责审核,类似问题可能是审核疏忽导致的,他们会立即组织技术人员检查,并尽快处理。
随后,据媒体报道,该公司回应称,已删除相关问题图片,并承诺“努力让社区更干净、更清澈”。
“我们非常重视对用户的正向引导,对平台上的UGC内容也有非常严格的审核机制、提醒机制、举报机制。”该公司表示,“由于目前技术和人工条件的限制,有时候确实会有漏网之鱼,主要是机器识别算法在目前行业水平上还不是最完善的,需要不断改进。因为每天的内容量非常大,而我们又是一个小创业团队,这些问题图片在社区里是千万里挑一的,人工审核处理需要时间,才导致了这个问题。”
不过,也有媒体质疑,通过“小度皮计算器”仍可进入“小度皮”。客服人员检查后发现,步步高家教机应用商店中确实有一款名为“小度皮计算器”的软件。他们表示将尽快通知技术部门检查该软件步步高学习机用的是什么软件,如果内容属实,将尽快下架“小度皮计算器”。
未来网记者致电步步高家教机官方客服,对方回应称,“小肚腩计算器”APP在S5型号家教机上无法下载,且显示已下架。
该客服还表示,第三方软件不断发布新版本,如果步步高家教机检测到其新版本,在其机器上无法正常使用,或者不符合家教机上市规范,将会被下架。
很多网友表示,太可怕了!真的防不胜防,未成年人网络安全意识薄弱,有时甚至不知道自己受到了侵害,所以家长一定要关注孩子的日常生活,多多提供科学知识。
也有网友表示,下架就这么简单,这事关教育,不能不管!!!
甚至有网友质疑,孩子使用的辅导机里为何会有这样的内容?是管控不到位吗?
后续问题1:学习机器里为什么隐藏着社交应用?
未来网记者了解到,被家长投诉的含有暴露图片、成人漫画的“小嘟嘟”APP并非一款学习类APP,根据其官网介绍,是一款社交养成平台。安卓应用商店显示,“小嘟嘟”APP下载量为657.3万次,分类为社交聊天软件,其宣传语为“00后超好玩的小窝”。
根据张先生提供的信息,《小肚腩》中的内容并不适合儿童观看,有的内容是少女半裸的乳房,有的是成人漫画,甚至还有其他不雅漫画。
图片为“小度皮”APP截图。
学习机中为何暗藏社交应用?王振辉表示,一方面,国家对专门供未成年人使用的电子产品审查普遍较为严格,因此人们普遍认为使用一些专门的教育电子硬件产品不会对孩子造成伤害,而有些软件经过层层升级或链接后,可能只会含有色情等有害信息,不仅家长难以发现,监管部门也难以发现,这也很容易让运营商钻空子。
北京市人民检察院原副检察长甄珍表示,社交平台的隐蔽性、立法的缺失,让社交平台内容监管成为监管的低谷,而社交平台企业也会利用自身社交属性,逃避内容监管。
对此,甄珍建议,“加大对涉及未成年人内容的网络平台监管,特别是对隐蔽性较强的内容,确保监管到位。”
甄真表示,目前大部分网络社交平台采用的身份认证机制,无法完全验证未成年人的真实身份。比如,在大部分社交软件中,未成年人可以利用成年人的身份信息进行注册登录,从而逃避管理。社交平台公司对内容审核不力,也导致其纵容甚至变相支持侵害未成年人的低俗内容的制作和传播,成为涉未成年人犯罪的温床。
甄真指出,应强化网络社交平台内容审核和未成年人保护的主体责任。“对屡禁不止、效果不显著,但仍游走在未成年人色情、引诱未成年人与陌生人交友等红线的功能,应强制关闭。”甄真说。
追问二:未成年人使用的辅导课为何频频出现色情内容?
事实上,未来网记者了解到,这并非步步高家教机第一次出现内容不良的APP。
未来网今年5月报道过类似事件,《步步高辅导机被指含有色情内容,商家指责孩子,称其“失控”》一文指出,投诉人张女士投诉步步高辅导机出现色情视频,并称“步步高辅导机出现色情视频,步步高推卸微信责任,还打电话说微信推荐孩子喜欢的视频,因为孩子喜欢就播放。投诉到京东客服,客服表示会举报,但并未采取任何行动,要求步步高在京东店铺书面道歉。”
无独有偶,今年1月,据媒体报道,江西瑞金有家长投诉,步步高家教机内置的学习软件“智米背单词”APP含有淫秽内容,并附有视频。
未来网记者还了解到,“智米单词学习”APP在今年1月8日还因“私自收集个人信息、私自与第三方共享、不允许用户未经允许使用、账号注销困难”等问题被工信部通报。
对此,南昌地区“步步高家教机”售后工作人员向未来网记者回应称,该软件目前已下架。
王振辉表示,这并不是孤立事件,色情、暴力信息充斥网络、频频被曝光,究其原因,在于电子设备出厂检验不严格,经营者责任心不强,相关部门市场监管不到位,对类似违法行为处罚力度不够等。
“而这不仅仅是色情软件的问题,据了解,该软件是辅导机内置的应用程序。那么是否存在电子设备出厂时检验不严的问题?这一问题的发生也再一次提醒我们必须高度重视未成年人上网保护。”王振辉说。
甄珍还指出,现行《网络安全法》、《互联网用户公众账号信息服务管理规定》、《微博客信息服务管理规定》等相关法律法规,尚未对网络社交平台上涉及未成年人色情、宗教信仰、欺凌、侮辱、诈骗等内容的治理作出专门立法。2020年起施行的网络信息内容生态治理规定,也没有明确将社交平台纳入监管。同时,网络社交平台上涉及未成年人犯罪的报道,也一直缺乏社会足够的重视,执法部门也容易出现对网络社交平台监管的疏忽。
甄珍曾表示,针对网络社交平台涉未成年人犯罪日益增多和当前的监管状况,加强网络社交平台监管十分紧迫和必要。
后续问题三:下架软件就能解决色情问题吗?
如何解决当前电子产品软件下载内容管理不规范、APP使用年龄分级不明确、学习电子产品中出现大量“边缘”色情暴力APP等问题?
针对此次事件,“小度皮”APP开发商回应称,已删除相关问题图片,并承诺“努力让社区更干净、更清澈”。针对通过“小度皮计算器”无法进入“小度皮”的问题,步步高家教机回应称,已下架“小度皮计算器”APP。
“对于含有违法、不良信息的软件,运营平台不能简单地通过下架软件来承担责任,运营平台的主体责任应进一步明确和完善。”王振辉指出,比如,运营平台是否对侵害未成年人权益承担责任;对平台运行的软件监管不力是否应承担连带责任;平台明知平台软件含有淫秽色情信息却置之不理,是否构成传播淫秽色情罪等问题,都需要进一步深入研究。
王振辉认为,遏制色情应用,应加强源头管控。对于未成年人使用的电子设备,厂商应确保设备出厂时安装的软件是实现电子产品功能所必须的,且经过严格测试,不含有有害信息,非必要软件不应内置于出厂设备中。对于使用过程中升级更新的软件,运营商也应进行严格的内部测试,确认升级后的软件不含有有害信息后,方可向用户推送软件升级。对于电子设备中提供供用户自行下载的应用软件,运营商应进行严格筛选,逐一测试,确保内容无害。还应按照未成年人年龄进行分类,并注明下载、使用软件的说明和建议。
王振辉进一步解释,更重要的是要强调监管,加大处罚力度。这既包括对电子设备生产的市场监管,也包括对网络服务提供的网络监管。市场监管和相关部门要在设备出厂时对相关软件内容进行实质性审查,也要定期对电子设备及其提供的网络服务进行检查。
河南财经大学教师崔航曾在接受媒体采访时表示,应加快互联网立法进程,首先构建全方位、立体化的法律法规体系。现行《网络安全法》虽然有相关规定,但过于原则性,没有相应的法规或司法解释,导致法律适用存在诸多漏洞。应通过立法明确APP开发商、应用商店运营商、手机制造商、移动网络运营商各自的责任,多角度应对当前色情、暴力APP泛滥的现状。此外,还要建立相互配套的APP市场准入机制和APP分类管理制度,真正从源头上解决问题。
其次,要从执法层面加强技术监管,建立能自动学习的管控网络。色情暴力APP的推广离不开各类社交媒体、各类网络客户端的传播,公安部门可以建立相应的管控网络,利用机器学习等技术进行甄别和初步排查,特别是对传播势头较强的APP。另外,要加大对色情APP上下游产业的查处力度,色情APP是一个完整的产业链,斩断其背后的灰色利益链才是解决问题的正确方法。
崔航认为,色情暴力APP是一个相对复杂的社会问题,只有对未成年人进行合理引导,营造良好的社会环境,才能应对这一社会问题。