小天才“涉黄涉暴”?儿童智能产品应该如何把关内容服务?
7月18日,北京市消费者协会、天津市消费者协会、河北省消费者权益保护委员会联合约谈了广东小天才科技有限公司(下称小天才)。三地消协秘书长分别就相关问题对小天才进行了询问,并向小天才发出《查询函》,要求其在7月28日前对八个方面的问题做出答复。
此前,在被曝出产品内含儿童不宜APP后,小天才曾在官网发布了《关于小天才产品应用商店中第三方应用软件的整改公告》称,其针对反馈的问题应用立即进行下架处理,其中含有不良内容的应用软件永不上架。彼时,小天才还表示,针对含有应用商店的全线产品进行全面严格排查工作,加强上架前的第三方应用软件多重审核机制。
今年的315还爆出了儿童手表窃取个人隐私信息及诱导消费等行为,儿童手表还要不要买?内容审查应该怎么做?
此次三地消协约谈小天才,起因是北京消费者投诉小天才系列产品的应用商店内有未经审核的涉黄涉暴APP,同时还有消费者在小天才电话手表中发现内置有诱导未成年人消费的第三方应用软件。
2019年发布的《关于防止未成年人沉迷网络游戏的通知》规定了网络游戏用户必须使用有效身份证件进行实名认证,未满18周岁的用户都受到防沉迷系统的限制。小天才在其产品声明了构建严格的防护系统,可实际上并非如此。
此次被举报的是小天才T2平板电脑,产品存在未设置游戏时长的漏洞,对登陆信息更是没有要求。换句话说,儿童在应用商店接触到的游戏应用不需要身份信息注册。
另外,小天才设置的不良内容检测也没有奏效。根据《中国消费者报》的报道,小天才应用商店里涉黄涉暴的游戏APP有几个特点,全部使用外文、未对儿童登陆时长进行限制、无需登陆、游戏失败后观看广告后能继续玩,未经过国家新闻出版署的审批。这类游戏是如何经过小天才的检测?如何上架应用商店?目前小天才还未给出答复。
同时,小天才儿童电脑中还有多款漫画APP内容“少儿不宜”,比如“斗看免费漫画”APP,“追追漫画”,“飒漫画”等。在应用商店中,这些APP的下载权限为12岁以上,可是在小天才儿童电脑中,这些均可以直接下载。
除此之外,小天才还屡次被消费者投诉诱导未成年人消费。仅一年期间,在在黑猫投诉平台上涉及小天才电话手表的投诉多达276条,投诉原因多为“无故扣费”、“诱导孩子消费”等,甚至有些无法联系到商家进行退款。
据未来网报道,一位来自北京海淀区的家长发现在给孩子买的小天才电话手表中有内置诱导未成年人消费的游戏APP,多款类似皮肤商城、游戏的内容均可“消费”。一位来自天津的家长称6月11日,孩子在使用小天才电话手表时,打开了智宠学堂APP,被莫名扣掉299元,查询相关交易记录只显示“小天才应用中心”。
也有家长反馈,孩子在使用手表的过程中,打开了兜兜龙和智宠庄园两个APP,想关掉未果,最终完成扣款,包年VIP费用共计402元。这个过程中,付费并未经过家长的手机支付确认,家长并未收到任何提醒。
在媒体向小天才官方旗舰店询问是否有付费APP时,客服回应称:“电话手表主要是打电话、定位和微聊,帮助家长随时联系到孩子,不会有游戏和上网的功能”。
在追问之下,该客服补充说,商城中有免费资源,也有付费资源,但付费需要家长扫码。上述家长反馈的智宠学堂等APP均已下架。不过,在不少线上销售渠道中,小天才的销售素材中仍旧主打“更多优质APP”,这其中就包括被投诉的吉米猫英语等APP。
随着小天才电话手表功能不断更新迭代,其产品应用商店所提供的APP也越来越多,内容审查的缺失使“漏网之鱼”此起彼伏,把娱乐功能做得太极致,并非是好事。
在工信部的要求下,应用商店要对上架的App进行严格审核。一般来说,内容审核往往是机审和人工审核相结合,即便如此,还是会有很多风险被忽视,主要原因是把关不严,审核乏力。
应用商店为用户提供了统一、便捷的下载入口,成为大部分企业推广自家APP的必选渠道。用户多、流量大的主流应用商店,更成为互联网企业的必争之地。然而,瞬息万变的市场对应用商店审核APP的效率提出了较高要求。目前,每个版本的APP产品发布都须提交应用商店审核。对企业而言,早一天发布,将获得更多用户留存;晚一天上线,则将面对实实在在的用户流失和经济损失。当前,应用商店上线产品多为人工审核。一些企业为了加快审核进程,利用技术手段做手脚、藏“暗箱”,比如过审前屏蔽部分功能等,这类乱象增大了用户权益受损的风险。
以App Store为例,目前 App Review 总部有 300 多名评审员,苹果的每个评审员每天大概需要审核 50 -- 100 个应用程序,Watchtower 会跟踪每一个 App 的审核情况,以便回复开发者或通过开发者修改后重新提交审核时进行比对,同时也为苹果收集 App 质量相关数据。
对于评审员来讲,苹果为其制定了 SLA 的考核制度(服务级别协议),苹果在对审核时间的要求上是十分明确的。要求评审员在 24 小时内需要达到 50% 的应用完成审核,48 小时内需要达到 90% 的应用完成审核。苹果称,会有 40% 的 App 被拒审或更新被驳回,核查出相关问题,并反馈给开发者。在同时多维度考核数据时,SLA 会达到正常标准,低于正常值时,评审员会收到邮件通知进行警告。
即便如此高效的审查,App Store还是存在着很多问题。智库报告2021年的一项调查发现,在App Store中,部分“益智小游戏”实际确实如假包换的赌博平台。一款伪装成经典小游戏的推箱子(目前已下架),从游戏介绍来看,玩法简单,推动箱子至指定地点完成通关,但打开App后,却出现了视讯百家乐、抢庄牛牛等20余款赌博游戏。在该应用的评论内,不少网友称该平台实为诈骗,“十赌九输”、“赢了就不给提现”、“提现300马上到,提现1000就到不了”。
想要避免为问题应用推广,首先要对广告进行更严格的审核。广告服务是目前部分应用商店的主流盈利手段,调查显示,部分应用商店广告乱象频出。比如搜索“幼儿”出现社交软件,搜索“孩子”出现麻将游戏;再比如应用商店推广“无版号”游戏,而且这些应用存在过度索权、隐私不合规、弹窗广告骚扰等问题。
2016年,国家网信办出台了《互联网信息搜索服务管理规定》,其中明确规定互联网信息搜索服务提供者提供付费搜索信息服务,应当依法查验客户有关资质。对于特殊领域的App推广审核,应用商店更应落实主体责任,登记、备案等相关资质不可或缺。例如,游戏App上架需要取得版号等相应资质。另外,如今的手机应用商店通常是手机预装自带的,在无法判断手机购买者身份、年龄的情况下,提供应用商店服务更应谨慎,对广告的审核要求应更严格。
另外,针对未成年人防沉迷,部分应用商店目前已推出应用分龄体系,对适合不同年龄段用户下载使用App进行引导,仅允许安装所设置等级或低于该等级的应用。不过,据调查显示,被贴上“12+”“16+”适龄提示的App,却频现搭讪骚扰、视频轰炸、氪金诱导。
分龄体系是一次创新,但要让它更加完善。涉及到应用商店的分龄,规则应由相关利益方共同制定。具体执行分龄审核时,应成立专门、公益性的独立第三方部门进行判别,割断利益冲突,从本质上做到公正。
想要效率与安全兼顾,应用商店运营者应该从两方面进行努力。第一提升技术能力,开发智能高效、科学精准的自动审核系统,由其完成初审,将存在技术隐患和安全风险的App拒之门外。第二是完善审核环节,实现缓缓向空的人机配合、实现事前事后审核机制,维护用户权益。
7月9日,小天才在其官方发布了《关于小天才产品应用商店中第三方应用软件的整改公告》。
公告中指出,针对用户反馈的第三方软件问题,小天才高度重视并采取以下整改措施:
一、针对反馈的问题应用立即进行下架处理,其中含有不良内容的应用软件永不上架。
二、针对含有应用商店的全线产品进行全面严格排查工作,加强上架前的第三方应用软件多重审核机制,坚决抵制、拒绝、严加防范含有淫秽、色情、暴力、引导消费等危害未成年人身心健康的软件。
三、优化家长端对第三方应用程序的管控功能,在原来限时、限应用的基础上使家长管理功能更加显性、便捷。
四、加严各年龄段适用应用软件的分类标准,儿童平板应用商店中对应用软件的推荐机制主要根据家长端设置的孩子年龄进行推荐,公司将进一步从合规性、合适性等多方面 ,并参考行业惯例,进一步加严各年龄段适用应用软件的审核标准。
五、针对第三方应用软件相关问题,设立举报投诉通道,欢迎社会各界的监督,用户如遇任何不良信息可随时在应用商店、小天才售后客服等多个端口进行投诉反馈,也可联系小天才24小时官方客服:400-610-3999 我们必将积极处理。
公告发出后,小天才官网上几乎没有任何关于T1儿童平板电脑的信息或产品介绍,其官方微信公众号和小程序上,也无相关产品销售。在多个电商平台上的小天才官方旗舰店中,均未看到该产品出售。其中某平台的官方旗舰店中,有一款小天才T1儿童平板电脑配件售卖,包括智能语音鼠标、旋转支架等,价格为99-299元不等。有客服称儿童平板电脑“没有货了,暂时卖完了。不清楚什么时候有货。”但在一些非官方旗舰店的网店内,仍有该款平板售卖。
在线下门店中,小天才儿童平板电脑也已经下架。工作人员称:“小天才平板已经在全国范围内下架,能卖的平板只有步步高家教机。”
浙江晓德律师事务所主任陈文明表示,根据《未成年人保护法》规定,“禁止任何组织、个人制作或者向未成年人出售、出租或者以其他方式传播淫秽、暴力、凶杀等毒害未成年人的图书、报刊、音像制品、电子出版物以及网络信息等”,无论从法理还是从道德层面来看,这是厂商应有之义,同时也是相关产品生产发展应该严格遵守的底线和最基本要求。
上海市未成年人保护委员会委员、上海兰迪律师事务所律师贾欣彦表示,小天才有诱导之嫌。“尤其无需注册,是非常重要的一点,在实务中,会归咎为小天才的责任。”贾欣彦指出,小天才应用商城平台以及第三方app均应对含有相关黄色、暴力内容的产品负责,平台有针对特定用户群体的设定,其责任势必更大于其他app提供者,对第三方app进驻平台应尽审核义务,对监护人及使用者应尽显著告知义务,对未成年人防沉迷应尽合理审查义务。
北京市律师协会消费者权益法律专业委员会主任芦云向时代周报记者表示,小天才公司宣称“精选出0—12岁孩子所需优质内容,每个内容上架前均进行安全检查”。但实际上,应用商店仍然可以下载诸多不适合青少年接触的内容,上述宣传行为已涉嫌违反《广告法》《消费者权益保护法》《反不正当竞争法》等,涉嫌构成虚假广告。
21世纪教育研究院院长熊丙奇在接受媒体采访时表示,如果小天才存在以游戏内容诱导学生消费,那么小天才电话手表等智能硬件应被纳入游戏监管范畴。
某信息安全从业者表示,今年315期间央视曝光儿童智能手表成为“行走的偷窥器”,信息安全隐患较大,隐私保护方面多有不足。被曝光后,一些品牌儿童电话手表迅速对APP进行维护,目的就是把远程监听等内容去掉”。
作为国内首屈一指的儿童智能品牌,小天才在把控产品质量的同时,不应该落下内容服务。小天才应不断完善产品内部内容合规、使用合理的防范系统,并向社会及时公布整改实效,切实为儿童健康成长筑起坚实“保护墙”。
“小天才”被约谈!涉黄暴问题……——每日经济新闻
记者探访武汉多家小天才销售网点:儿童平板电脑已下架——极目新闻
放行问题App,5问手机应用商店审核之责,专家如此建言 ——南方都市报
推荐阅读
经济压力、裁员失业...网络安全可以成为避风港吗?
齐心抗疫 与你同在
[广告]赞助链接:
关注数据与安全,洞悉企业级服务市场:https://www.ijiandao.com/
让资讯触达的更精准有趣:https://www.0xu.cn/
随时掌握互联网精彩
- WebOS酷似windows11风格的web私有云网盘
- 苹果发布黄色版 iPhone 14,定价 5999 元起;大神李沐被曝离职投身大模型创业;Atlassian 裁员 |极客头条
- CSDN获评2022年科创中国开源创新榜「开源机构」
- 经济压力、裁员失业...网络安全可以成为避风港吗?
- 诸子笔会2022 | 王忠惠:安全没有神秘感,但处处是错觉
- “一次编写,运行各端”,高通重磅发布 AI 软件栈!
- CSO说安全 | 丛林:日化行业研发数据安全防护
- “2022特色工业互联网50佳”陕煤红柳林矿业携手华为上榜
- 小米Civi:天生好看又面面俱到
- SSL证书有什么用?好处是什么?
- 腾讯云数据库三大产品线统一升级为TDSQL,这是要集中力量干大事!
- 公告:因服务器升级,看雪网站今日关闭一天