写点什么

在企业内容城池边,它建立起一支保卫军

作者:ToB行业头条
  • 2023-04-25
    北京
  • 本文字数:6788 字

    阅读完需:约 22 分钟

在企业内容城池边,它建立起一支保卫军

来源:ToB 行业头条

作者:海阳


当下的人们,不仅生活在物质空间,也生活在数字空间。这里充斥着各种信息、言论和行为,带来的有愉悦,亦有困恼。

“N 号房”事件曾经引起广泛关注。未成年女性的非法视频在 Telegram 社交聊天房内广泛流传,画面不堪入目、手段极其残忍。1000 多位聚集在内的始作俑者在白天与普通市民并无不同,却在聊天室内对此乐此不疲,逐渐演变为震惊全世界的数码“性剥削”犯罪。

不只是上述事件,包括笔者以及千千万万的网民,对这样的情况都有所经历,一些低俗暴力的话语、敏感媚俗的评论、乱七八糟的诈骗信息经常访问应用后台,或是身份信息和电话号码等敏感信息莫名其妙地泄露,贻害无穷。

据中国互联网络信息中心发布的第 50 次《中国互联网络发展状况统计报告》显示,截至 2022 年 6 月,我国网民规模为 10.51 亿,互联网普及率达 74.4%;网民人均每周上网时长高达为 29.5 个小时。而这 10.51 亿人的每周 29.5 个小时中,时刻都在面临不良内容攻击。

由此可见,即便网络四通八达,数字世界愈发蓬勃生辉,宛如一座蒸蒸日上、人来人往、秩序井然的“赛博朋克”城邦,但其中的“黑暗角落”和“地下通道”也让某些非法行为得以滋生和繁荣。为了避免它变成一个永远不眠的“哥谭市”,各方正在采取行动。

政府监管率先到位,很多互联网平台、社区以及 APP 也都用尽办法管理,毕竟平台内容的丰富度及质量是获取用户的关键要素,而用户则是平台最宝贵的财富。如有内容违规、隐私泄露等事情发生,也将损害自身品牌形象和造成巨额的经济损失,奈何企业自身技术积累不足、安全防护经验不足等因素,因此效果有限。

例如,曾经声名赫赫的搜索引擎公司雅虎,在 2016 年期间就被曝出超 15 亿用户信息遭窃;同年,海外流媒体平台 YouTube Kids 上也接连出现不适合儿童观看的卡通色情内容,于次年遭到大众批评后才执行下架。

这些血淋淋的案例进一步刺激到企业安全意识的崛起,数字内容风控逐渐演变为网络安全之外另一大企业的细分安全需求,带动资本关注。

也因此,数字安全服务商如雨后春笋般出现,并通过企业定向培养、市场广泛征集等方式,带动了国内高校基于网络安全细分领域,开设诸如网络空间安全、网络信息管理等专业学科,全面推动我国网络安全全方面的建设。

 

01

ToB 春风吹 ,吹动有心人


七年前,三两个人围着一张桌,看着一摞资料与一台电脑。在上海浦东新区的一处办公室内,一位程序员面色凝重,正与另外两人就“如何帮助一个旅游社交产品做好内容安全”展开激烈讨论。

“我们是以图片、文字为推荐、帮助用户预订门票、旅途分享沟通的社交平台。对用户社交过程做安全把控中,因为图文会涉及成像色彩、角度、文字断句、谐音、模糊、扭曲变形等诸多变化,使审核工作特别复杂。并且如果用户出现违规行为,我们也需要做好证据存留,给出足够准确反馈与解释,让用户了解哪些行为属于违规。”这个产品负责人说到,“这些问题给你们要如何解决?”

面对提问,这位平日里沉默寡言的程序员在脑海里的技术思路奔涌而出。他清了下嗓子便回应道:“的确,音视频的内容安全把控复杂,但是我们可以帮助你们完成三步建设,通过建设舆情预警建设「AI+人工+举报」三级审核流程建立审核员培训制度去解决。”

这位程序员名叫朱浩齐,任职于网易旗下的安全保障部,正在为“网易易盾”的诞生寻找客户。

见客户不甚了解,他又详细解释道,舆情预警建设是放在第一步的,我们可以帮助你们打造一个舆情系统实时搜索网络传播中的热点问题及有害言论,并和有关部门做好沟通对接。将这些敏感信息录入形成相应规避词与舆情工作报告,上报主管部门,直接规避用户在平台上发出存有规避词的信息

第二步则是建立三级审核规范,基于大数据精准化层级管理应用,对用户生产的内容做分层处理,建立不同层级违规、违法内容数据库,再用 AI 技术对违规、违法等内容进行识别算法建模,并持续丰富完善模型数据库。等待用户发出内容后,将这段内容与 AI 建立的数据库做对照,将所有违规内容直接筛出,提升审核效率与准确度。

之后通过人工质检,核对 AI 机器筛选出的内容是否存在违规,将违规的扣留,未违规的正常推送。此时通过两层筛查已经基本能规避所有不良内容的推送

最后即便存在漏网之鱼,或者日后有些内容成为敏感词,定期过检筛查与用户举报机制也能进行有效拦截,维护健康安全的内容环节。

第三步,网易易盾会帮助你们培育审核员,帮助你们建设培训制度,让相应培训人员梳理业务涉及的所有形态的信息内容,包括图、文、音视频等所有可能出现的违规特征,做到授人以鱼,也授人以渔

一番口干舌燥地解释后,对面的业务负责人也被朱浩齐说动。看此情形朱浩齐乘胜追击,又与其就价格、建设周期、交付时间等问题展开讨论。三个小时后,对面起身表示:“我们都已经有所了解,回去会再探讨一下,下次见面我们可能就要将资料换成合同了。”

对此,朱浩齐内心也难掩激动,“终于离网易易盾立项成功更近了一步。”

朱浩齐的激动并非夸张,实在是由心的表达。2016 年 ToB 风暴席卷市场,网易选择同 BAT、京东、美团等公司入局企业服务,并对内提出,希望所有团队拥抱变化,积极探索有哪一些可做企业服务的技术能力。而朱浩齐与一些同事准备响应集团号召,从自身拿手的内容安全、应用安全、业务安全等方面入手,成立网易易盾

由于材料准备十分齐全,加上团队选择的数字内容风控在对内服务的十余年间,为诸多集团内大热的音视频、游戏以及网易新闻等产品保驾护航,效果十分优异,这使其在立项审批的过程中极其顺畅地通过,但挑战也随即而来。

“当时集团表示,网易易盾要通过立项审批,还需要在没有销售的情况下,三个月内签下 5 个一定额度的客户订单。”对清一色程序员的团队而言,这种情况无疑是困难重重,“起初我们是一个纯粹技术团队,技术人员毕竟都不善言辞,思维很难跟实际业务场景产生共振,还不具备什么市场资源。所以依靠自身在三个月内签约 5 个客户,还要达到一定金额,这让我们倍感压力。”

可即便如此,事情到了这个地步,放弃是不可能的。于是一帮技术人又肩负了市场、销售、品宣种种工作,通过混迹论坛、官方平台培育线索,又通过四处奔波,找到意向客户的所在地进行当面沟通洽谈。以最辛苦、最笨的方式,为网易易盾的诞生增添可能性。

苦心人,天不负。由于当时互联网发展的繁盛,数字产业在蓬勃发展中,越来越多的人意识到安全管理的重要性,配合当时互联网法律法规的逐步完善,倒逼企业们重视数字内容风控,对相应服务产生兴趣。

此时,配合着易盾团队 100 多个日夜的努力,让其接连在深圳拿下游戏公司订单,为其提供外挂对抗服务;广州拿下 IM 社交公司订单,为其提供内容安全服务;上海拿下娱乐平台订单,为其提供隐私和内容安全服务……最终,艰难地将网易易盾带到了人世间。

而经过了立项阶段,在 2016 年 9 月 20 号,网易易盾正式对外发布,由 MVP(最简可行产品)阶段开始向 1-100 的 PMF(市场规模化)阶段前行。

 

02

市场多变数,求索定前路


常言道,万事开头难。但 1-100 的 PMF 阶段可比 0-1 的 MPV 阶段难得多。

朱浩齐讲述了一个让他印象深刻的故事。当时网易易盾在 1-100 阶段,为了能更好地推广产品,上线了 AI 自动识别内容在线体验,让客户提前感受到产品能力增加成单概率,但问题是在实际中,偶尔出现的错误效果起到了反向作用,曾引来销售的下线争议。

按常规操作,当销售提出新需求的时候,业务部门和技术部门都会听从,但网易易盾没有这样做,而是着手客户沟通和优化 AI 训练。

朱浩齐讲到:“企业服务需要坚持长期主义,在业务的开始阶段我们就应该坚守实事求是。当前的争议,只能说现在 AI 的能力与企业主观认知出现了偏差,如果通过下线这个功能来规避这个偏差,事后客户还是会发现这个事实。不如大方的开放给客户,帮助客户更好地认识到 AI 的能力和边界”。

他还表示,AI 已有 70 多年历史,作为数字空间的抽象产物,是连接物质空间与数字空间形成生产力升级的通道,这一点在互联网刚在国内风靡阶段,就已经被大众认识,但是真正了解 AI 能力和价值的人并不多。

2014 年前后,许多人都奔向 AI 创业,想要做出些成绩。幸运的是,由网易集团孵化的网易易盾,过往通过网易内部的技术研究院储备了大量基础 AI 能力,方能让我们专注于智能化企业服务,走在时代前沿,难道现在要放弃这种先发优势吗?

直击心灵的两连问,让网易易盾团队再也没有放弃的理由。毕竟困难虽有,但也不能因噎废食。面对发展路上的重重暗礁,网易易盾选择谨慎前行。既然 AI 认知与市场上企业对内容安全的主观有偏差,那就通过频繁地与客户沟通,让客户理解 AI 原理,说清楚需求,反哺到 AI 模型,让认知和能力对齐

还有,如果 AI 对隐私安全、数据安全的保障有纰漏,网易易盾团队依旧要与客户保持频繁的沟通,培养他们对 AI 技术为什么出现这样的问题有准确认知。这里面是没考虑业务场景特性,还是需求没有讲清,再度做认知拉齐,最后通过清晰的反馈让需求与产品能力匹配上。

在秉承 AI 一定会成为人们工作中最佳辅助手的信念下,网易易盾通过细培育多沟通快迭代的方式,逐渐摸清了如何完美度过 1-100 规模化的方式。并基于此悟出,“和客户在一起”“MI 市场洞察”发展方法论,助力自身发展。

值得一提的是,将“和客户在一起”、“MI 市场洞察”这两个方法论做揉合,这刚好暗合经典的企业业务管理「服务三角」模型。

 

1682417977.png


 「服务三角」模型,指的是将“培养客户、聆听反馈、丰富产品”三个环节点、串联成一套闭环且牢固的三角形市场服务体系。以保证在服务过程中,相关厂商能清晰且实时地获取市场需求反馈,并通过产品及服务的敏捷迭代匹配需求端。

例如,在面向近些年火热发展的游戏公司提供服务方面。目前很多大火的多人场景游戏中,都存在一些针对 Unity3D 单机游戏的模拟点击、加速器、修改器、破解版、定制外挂等作弊方式,这些行为不仅影响玩家体验,黑客还会通过外挂插件中植入木马,导致相关玩家游戏账号被盗、遭遇诈骗、个人信息泄露等问题。

面对这种情况,游戏公司一定会做出整治,可公司又不能完全将精力投入反外挂工作中,需要控制运维成本,考虑接下来的游戏迭代和开发新品,以保证公司长久发展,这也让其陷入两难境地。于是,为了能腾出手打造精品游戏,游戏公司在安全方面往往选择与安全服务商合作。

网易易盾在服务时,先是了解游戏中外挂是依靠什么机制诞生的,解释产品的运行原理是什么,在理论上能做到什么效果。之后做初服务测试,看看哪些领域没有做好,并让客户理解为什么这次智能防护出现偏差。

之后,当游戏客户理解安全产品的运行原理,理解遵循这套流程为什么还会出现问题,并给出清晰准确的问题反馈,网易易盾在对其做功能上定向补足,以保证对需求的完美匹配。

当然,这个过程中,由于外挂的迭代,二者之间保持着长时间且高频率的沟通。维系着服务优化、安全产品的迭代。而这个过程,也会让网易易盾的产品能力愈加丰富。

重点在于,很多游戏的外挂 BUG 机制,存在极大的相似性,都从底层人物模型数据、场景数据、剧情机制中挖掘,并与很多游戏中的恶意打金工作室有关联。

网易易盾通过在服务初始的几个游戏公司客户中,去丰富自身的产品、服务,而这里面的新功能,有大量都可直接复用,让这个产品成为具备行业场景属性的高标准化解决方案。

还有,现在汽车企业都在推出智能化、互联网化产品,通过一个 APP 随时随地远程控制车辆,获得安心的充电及车主服务,并可以在 APP 社区互动交流,获得更好的使用体验。

不过以 APP 做车主的使用和交流平台,就不可避免地要面对网络攻击、不良内容的骚扰,于是在此前提之下,不少第一梯队新造车势力选择网易易盾的数字内容风控解决方案。

而网易易盾为了更好服务这些客户,积极与其进行 APP 的用户注册,UGC 内容发布、活动营销、攻击对抗和隐私合规等方面的沟通,双方勾勒出准确的诉求。

随后,根据源源不断的诉求,团队做出融合内容安全、验证码、反作弊与应用加固等技术能力,且最适合汽车行业场景的安全产品。同时,这也为面向汽车行业标准化的数字安全解决方案打下基础,网易易盾可直接向其他汽车企业提供服务。

“「服务三角」的方法论的出现,让我们对于在 1-100 规模化阶段有了明确前行方向,起到绝佳的利好效果。”朱浩齐如此表示。

 

03

风控成为热浪 

而它在踏浪


自助者,天助之。从一片荒芜的市场出发,7 年间网易易盾在数字内容风控赛道的坚守,终于在近些年迎来了“花开时刻”。

据「ToB 行业头条」了解,自 2016 年之后,国内互联网产业进入繁盛阶段,随之出现的违法和不良信息日益增多,对诸多企业旗下产品造成了极大发展困扰。

公开数据显示,2017-2020 年间,我国处理的违法和不良信息数量逐年增长,分别为 1.9 亿条、2.9 亿条、4.9 亿条以及 9 亿余条;关闭网站数量分别为 1.8 万、3.0 万、3.8 万以及 4.4 万;关闭违规 APP 数量分别为 4.2 万、3.5 万、5.5 万以及 2.8 万;撤下违规网络直播数量分别为 1.7 万、2.7 万、3.6 万以及 1.8 万;关停违规账号数量分别为 60 万、80 万、150 万以及 3900 万。


1682418081.png


且因主要涉及虚假宣传、侵犯用户权益、非法收集使用个人信息等行为,2017-2020 年间,工信部处罚的违法违规 APP 数量亦是居高不下,分别为 7.1 万个、4.9 万个、6.8 万个以及 2.2 万余个。

 

1682418093.png


这些庞大到令人吃惊的数字,无一不在表明网信办与工信部在过去的几年中,加强了对网络内容、个人隐私安全、数据安全的监管和处罚力度,以便打造一个更加清朗的网络空间。从而倒逼相关企业重视这些方面,做好相应防护。

数字内容风控技术,则可以对用户的个人信息进行保护,避免信息泄露和被盗用,提高用户的信息安全感。同时在获取客户授权的前提下也能对账户的设备 ID、IP、行为等进行分析,及时识别和预警欺诈交易,减少企业平台的损失。

因此在近些年受到企业及市场的极度关注,带动了这一产业的发展,推动了其在市场上形成热潮。

 

1682418107.png


IT 桔子数据显示,2020 年-至今,我国每年有关企业安全方面的投资数量为 76 笔、109 笔、68 笔以及 11 笔,总计投资为 264 笔。投资金额分别为 82.17 亿元、126.93 亿元、57.44 亿元以及 7.2 亿元,总计投资金额为 273.74 亿元。

并且 IDC 的数据显示,全球数字内容风控市场规模在 2020 年达到了 8.57 亿美元,并预计将在 2025 年达到 18.97 亿美元,复合年增长率(CAGR)为 17.6%,数字内容风控发展前景可观。

而网易易盾于 2016 年便进入数字内容风控领域,多年以来一直深耕技术、贴近客户,目前已是国内赛道中的龙头,服务了数千家头部企业,其中不乏互联网行业的滴滴、知乎、B 站、汽车之家,金融行业的华泰证券、中信银行,政府部门及机构的人民网、外交部等一众标杆客户的认可。

因此,多年的技术积累、服务经验沉淀,以及诸多知名客户企业的肯定,也为网易易盾冲刺这波市场热潮奠定了基础,成功踏浪而行。

值得一提的是,网易易盾的发展优势还不止于此,熟悉网易易盾的都知道,它与网易云信、网易云商都隶属于网易智企业务,是网易旗下 ToB 的左膀右臂之一。而网易云信、网易云商同样是音视频 PaaS 赛道、数字营销赛道的第一梯队,三者之间起到了强强联合的服务支持。

当下,中国企业基本都在追求一套完整全面的服务体系数字化建设,网易智企则能通过网易易盾、网易云商、网易云信三大业务线,为企业提供综合性的企业服务。

在内,三者提供多渠道、多样化的客户触达新模式,在外,三者赋能企业实现了音视频通信纬度、安全合规纬度、市场商业化营销纬度的全生命周期互动管理,从而备受关注。

如此一来,随着与云商、云信形成联动的效果,在前两者面向潜在客户中,网易易盾也会获得更高的关注度与认可度,极大程度利于市场发展。这方面,通过整合网易易盾与网易云信两大业务能力,推出的“安全通”就是一个极好的证明。

安全通是一个基于云原生架构将通信、安全这两个能力融合,再以一些算法在共同的服务器上抽象出来的产品,对音频、视频传输通过人工智能进行内容安全检测,并且将实时通信服务与内容安全服务融合部署共建,以此提高检测效率。

相关企业在使用“安全通”之后,只需要一个系统、一个后台、一次结算,即可享受网易云信、网易易盾两大技术服务,不仅解决内容传输、安全检测两大问题,也能节省部分成本。据悉,安全通可平均为客户节省 20%成本,在某些典型的 1V1 送检场景可以降低 50%左右。

“我们旗下业务板块并非各自为战,而是能够完全打通融合,攥成一拳形成合力。”网易智企总经理阮良曾如此表示,这也说明,网易易盾势必会受网易云信、网易云商的资源反馈、能力反馈,从而获得更好的发展,相反网易云商、网易云信亦是如此。

作为一家在数字内容风控默默深扎数年的 ToB 服务商,网易易盾从市场一片荒芜开始,终迎春日到来,这是一段值得铭记的过往。不过时代还在滚滚向前发展,数字内容风控在国内还远未到达成熟期。网易易盾也清楚这点,因此还是维持努力态度,希望推动这一项服务再进步。

“正如空气一样,人们无感知,却又是生存的必备要素之一。”朱浩齐说,“网易易盾就是要发展成这个状态。让网民像享受空气一般,获得这个网络世界中必备的安全要素,同时不会对正常网络生活产生影响。成为所有企业、所有人的数字空间保护者。”

发布于: 刚刚阅读数: 5
用户头像

还未添加个人签名 2020-07-13 加入

ToB行业头条,关注ToB领域的新产品、新公司、新趋势,专注以原创报道ToB行业的人物、金钱与故事。

评论

发布
暂无评论
在企业内容城池边,它建立起一支保卫军_ToB行业头条_InfoQ写作社区