移动互联网的发展让人们的生活更加便捷,但与此同时也让每个人,都被动地变成了一个个可量化的数据,储存在互联网上,并且很可能一直在互联网上流转,永不消逝。当我们举着手机自由地享受互联网,也必将深陷于这张看不见的网中,越来越没有自由。
2022年秋,全国迎来了一波破纪录的热潮,而互联网大厂也曝出了两个大瓜,引得一众网友群情激奋,其热度和这极端炎热的天气相比都毫不逊色。它们一个是“WPS被指删除本地文档”事件,一个是“百度网盘人工审核照片”事件。
两大事件的接连爆发彻底点燃了网友的愤怒,作为方便人们生活的工具,竟然每时每刻都在审视人们的隐私。同时也再次勾起了网友那些埋藏深底的,对个人隐私安全深深的忧虑,并发出一声充满不解的呐喊:我们真的“活在监控之下”?
对于企业来说,内容安全和隐私保护的边界又在哪里?
WPS、百度网盘事件回顾
7月11日,WPS“删除用户本地文件”冲上微博热搜。网友“米兔只想赚钱”发帖称,自己利用WPS写作编辑的一百多万字小说,被WPS以“文件含有违禁内容,禁止访问”的理由进行封锁,完全打不开。
![图片[1]-从WPS到百度网盘,我们真的“活在监控之下”?-NGC660 安全实验室](https://image.3001.net/images/20220825/1661413435_6307283b4fa10a082318a.jpg!small)
对此WPS回应称,“删除用户本地文件”属于谣言,近期一位用户分享的在线文档链接涉嫌违规,WPS 依法禁止了他人访问该链接。
![图片[2]-从WPS到百度网盘,我们真的“活在监控之下”?-NGC660 安全实验室](https://image.3001.net/images/20220825/1661413734_63072966b7cba2de5fc3e.jpg!small)
但网友“米兔只想赚钱”表示自己的文件完全合法合规,不存在违禁内容,并称被封文件除了配合 WPS 调查分享给 WPS 工作人员外,并未给其他人分享过。有网友推测WPS 的敏感词探测功能在探测出敏感信息后,可能会锁死文件,甚至是删除文件。
于是,网友们的怒火被点燃了,无数网友在平台上纷纷对WPS进行质问和讨伐:作为一个码字的工具,WPS凭什么可以行使主人的权利,直接锁定或删除文件?
在这起事件中,网友们有关注的点在于:1、WPS会不会偷偷审查用户的文档,这是否侵犯用户的隐私权;2、WPS会不会锁定或删除用户的文档,侵犯用户的合法权益。
受此事件影响,码子圈内一时间竟呈现出风声鹤唳的赶脚,作者们纷纷转而使用Word或其他的编辑软件,存储在WPS云上的文稿也转而存储到其他的云平台。
而就在WPS事件的影响逐渐淡化之际,百度网盘事件的出现犹如在平静的湖面投下一个巨石,再度激起无数浪花,朝着网友们那根本就脆弱的隐私神经,又狠狠拨了一下。
8月18日,网络作家@边想转发上述视频截图,发文称“我一直以为百度网盘是机器审核的,没想到是真人审核?审核人员还能随随便便把用户的照片截下来保存发到网上?”此后,该微博迅速引发众多网友的关注和热议,相关话题直接冲上了热搜榜。
随后,还有网友找到了另一个自称是百度网盘审核员的短视频截图,视频中的女子晒出疑似待审核的文件夹列表。两条短视频都明确晒出了疑似青团社发布的兼职招聘信息和录取短信,几乎实锤了百度网盘大量招聘兼职人员审核照片及资源。
对此,百度网盘回应称,不存在“人工审核用户照片”,网络上关于百度网盘照片真人审核的内容是谣言,并强调“在技术和产品等任何层面,均不存在人工审核用户照片的情况”。青团社也表示,没有发布类似岗位,而两位短视频博主的视频也因投诉已经被下架。
20日,百度网盘再发声明表示,“青团社招聘人工审核”截图纯属恶意造谣,已报警,并再度强调“百度网盘不存在照片人工审核”,也“并未委托任何机构招聘兼职人员”。“百度网盘拥有规范且严密的隐私管理机制和安全防御体系,有效保护用户隐私和数据安全。”
对此,网友并不买账,同时也加剧了对于百度网盘隐私泄露的担忧,主要集中在两个方面:1、为什么会有人工来审核网盘,诸如照片等个人隐私信息是否会被曝光;2、为什么审核员还可以清楚看到审查对象的具体信息,且审核员还可以将这些信息在互联网上发布?
有意思的是,无论是WPS还是百度网盘,都认为己方没有任何问题,也不存在侵犯用户隐私的行为,为此不惜连续发布公告,到派出所报案等;而网友的诉求也十分明确,对于上述两大平台的质问也是合情合理。
那么,问题来了,到底是哪个环节出现了问题,WPS和百度网盘被骂到底冤不冤,普通用户的隐私保护边界又在哪里?
上云必定触发内容审核机制
在探讨上述问题前,我们首先要明确一个前提:在上传至云端后,内容必定会进行审核,这也是非常必要的措施。
近年来,我国在加强内容安全建设方面投入了大量的精力,不断强化企业内容合规要求,开展多个系列专项活动对内容安全进行治理,持续清理网络空间中的涉黄、涉暴等诸多不良信息,方才有当下清朗的网络环境。
作为网络安全领域的根本大法,2017年6月1日正式实施的《网络安全法》对于内容安全提出了明确的要求。其中第十二条指出,任何个人和组织不得传播暴力、淫秽色情信息,编造、传播虚假信息扰乱经济秩序和社会秩序,以及侵害他人名誉、隐私、知识产权和其他合法权益等活动。
2019年,中国网络视听节目服务协会正式发布《网络短视频平台管理规范》,提出提出网络短视频平台上播出的所有短视频均应经内容审核后方可播出,包括节目的标题、简介、弹幕、评论等内容。2021年发布的《关于进一步压实网站平台信息内容管理主体责任的意见》就要求网站平台健全内容审核机制,包括完善人工审核制度,进一步扩大人工审核范围,细化审核标准,完善审核流程,确保审核质量。
此外,在内容安全领域还有《互联网信息服务管理办法》《网络信息内容生态治理规定》以及2022年发布的《移动互联网应用程序信息服务管理规定》等法规,对于健全信息内容安全管理等管理制度,确保信息内容安全,营造良好网络生态都提出了相应的要求。
与之相对应的是,内容合规细致也越来越清晰,企业和平台的合规动作也有了确定性。在云端提供存储空间的服务商具有审核上传到云端文件的法定义务和监管要求,并对违法文件进行处理。
在WPS和百度网盘事件中,内容都曾涉及上传至云端,因此这些内容毫无疑问需要被审核,也应该进行审核。其余诸如阅文集团、腾讯视频、B站等网络社交、媒体平台也皆是如此,他们都有明确的内容安全的合规要求。
至于那些未能践行内容安全或审核不到的企业或平台,轻则约谈、删稿,重则下架整顿,并对企业和直接负责人进行相应的处罚,严重者甚至还有可能承担刑事责任。
WPS和百度网盘被骂一点都不冤
对于企业来说,内容审核是一个必选项,但这并不意味着WPS和百度网盘被骂就可以喊冤。近年来,随着内容行业的蓬勃发展以及内容合规要求不断细化,各平台也在不断加强内容审核方面的投入,到目前为止已经基本形成“机器+人工”的审核模式。
众所周知,内容审核从易到难分别是文字、图片和视频。审核流程一般是先由人工智能进行初步审核,通过比对违规数据库,或参考各家的审核逻辑规则,对确定违规的内容进行过滤,以及对无法判断或判断存疑的内容进行标注,再转入人工审核环节。或者是用户对于审核结果不满意并发起上诉,此时也需要人工审核的介入。
有专家表示,在现有的人工智能技术下,基本可实现文字审核百分百由机器完成,人工只需承担极少部分工作。照片也可以实现机器审核,但是误报率将会比文字高,至于视频则无法完全依赖于机器,误报率是三者中最高的,也是最依赖人工的内容,此时人工审核将承担更多的任务。这也是为什么会有“鉴黄师”这一职业存在。
此时再回到WPS和百度网盘事件中。
用户并非不理解平台内容审核,而是不清楚“只要向外分享即会上传至云端”的机制,WPS作为平台方有义务说清楚此类规则,而不是简单粗暴地封禁,留下一脸懵逼的用户。正所谓“不教而诛是为虐”,可惜的是,在长期的使用过程中,WPS也从未对这类机制进行叙述。
另外,WPS在将分享链接禁止之后,为何又对作者本地文件下手封禁,此举明显有侵犯用户隐私的迹象。无论内容是不是符合法律法规,这只是作者本人的思考和想法,它属于私人文档,可能涉及用户隐私信息,WPS作为一种工具,是否真的具备扫描、封禁线下文档的权力?长此以往谁又敢继续使用WPS进行创作?
毕竟谁也不想,自己辛辛苦苦付诸于纸笔上的文字,某一天会自动消失。在笔者看来,WPS需要认真吸取此次事件的教训,真正站在用户的角度进行思考,划出云端内容和本地内容的界限,切实保护好用户的隐私信息。
而在百度网盘事件中,平台一直强调只会使用机器进行审核。对此有不少网友表示不信,用户上传的资源包括文字、图片和视频,仅依靠人工智能无法保证准确率,那么势必要引入人工审核。
事实上,用户对内容审核感到膈应的不是百度网盘引入人工审核,而是人工审核时没有对数据进行脱敏,从截图中可以清楚看到内容就直观呈现在审核员面前。更关键的是,审核员可以将这些内容发布,那么百度网盘在保护用户隐私信息方面是否还存在其他缺陷?
这也是企业必须要思考改进的地方,而不是一味撇清责任。须知人工审核和用户隐私泄露并不是对立的二极管,可通过脱敏、防泄漏、溯源等多种方式方法进行弥补,确保用户隐私信息的安全。
做好隐私防护是一个必选项
随着用户网络安全意识的觉醒,能否保护好隐私信息已经成为用户十分关注的因素。诚然,企业和平台必须要做好内容安全,但是我国也出台了《个人信息法》等多部重磅法律,要求企业必须保护个人信息安全。
在WPS和百度网盘事件中,用户直观感受到的是个人隐私信息完全不受控制,且明显存在泄露的可能性,而平台方的回应并没有打消用户的顾虑,反倒点起了网友们更多的怒火。
在内容审核和隐私保护的抉择中,企业在做好隐私保护工作的同时,还需要充分保障用户的知情同意权,这也是引发上述两大事件的重要因素。如果WPS没有默认上传至云端,如果用户知晓百度网盘的审核规则,那么是否还会有如此之多的争议呢?
比如在将文档上传至云端时向用户申请一下权限,或者是在隐私保护政策中将审核要求写清楚,什么时候使用AI审核,什么时候使用人工审核等,将这些信息都明明白白告知用户,是对于用户的尊重,也让用户真切感受到企业对于隐私保护的责任与付出。
本文转载于FreeBuf.COM,原作者:苏苏
原地址:从WPS到百度网盘,我们真的“活在监控之下”? – FreeBuf网络安全行业门户
若侵权请联系删除
昶之琴![资深玩家 徽章-资深玩家-NGC660 安全实验室](http://ngc660.cn/wp-content/themes/zibll/img/thumbnail-null.svg)
2年前0
我以为只要提交就行了好想告诉你![备受喜爱 徽章-备受喜爱-NGC660 安全实验室](http://ngc660.cn/wp-content/themes/zibll/img/thumbnail-null.svg)
2年前0
花巨资看一下