提款风控审核 一文介绍：内容安全审核业务

一、发展背景：互联网内容爆发，监管趋严。

随着移动互联网行业发展，全网内容资源爆发式增长，信息流内容、短视频、直播成为新兴内容形式。与此同 时，海量内容资源带来管控风险。

内容风控主流模式：自建审核团队与第三方审核并存

自建审核团队与第三方审核是内容风控的两种主流模式。大型互联网公司，尤其是UGC产品的公司通常拥有庞 大内容审核团队，如腾讯、字节、快手、微博等，每家公司内容审核人员均有上千人，且主要布局在二三线城市。

第三方内容风控，是由第三方专业机 构利用技术和人工审核团队，对平台进行**、暴恐、涉政等违规内容识别，过滤并删除含有违规信息的图文及音视 频，保证平台内容合法合规和绿色健康。平台方根据审核内容及数量支付给第三方机构一定报酬。

1）审核内容：内容风控涉及到图文、音乐、视频、公众号、小程序、游戏、广告、动漫等行业；**、暴力、 政治敏感、广告、低质量内容等是审核的主要方向。

2）主要客户：只要有图/文/音频/视频内容的互联网平台型公司，都可能成为第三方内容风控业务的客户。部分第三方审核平台还会根据主要客户所处细分领域提供相应行业解决方案，如金融、社交、媒体、游戏行业解决方案。

第三方内容风控业务壁垒主要在于政策、技术、管理和人才四大方面。拥有云服务能力的BAT巨头公司，以及官媒为代表的媒体公司以及第三方内容审核垂类企业，是第三方内容风控行业主要的三类参与者。第三方审核业务垂类企业有：易盾、数美、百川数安、小盾等等深耕此领域的服务商。（PS：百川数安为某知名互联网企业子品牌，21年商业化，核心客户群在广东境内，提它的原因是在众多知名深企客户中了解到他们在服务+价格这块确实具有高优势（机审➕人审均自建），且拥有强属地背书，（价格低的主要原因在于自建+极少投流和SEO，走的传统式打法）

二、内容风控主流模式：自建审核团队与第三方审核。

1、自建内容风控团队：团队庞大，成本高昂，大型互联网公司的选择目前来看，内容风控可以分为公司自建内容审核团队和第三方内容审核两种形式。 大型互联网公司，尤其是拥有UGC产品的公司通常都有庞大的自建内容审核团队， 如字节、快手、微博等，他们内容审核相关人员一般都有上千甚至上万人。

内容审核团队一般通过“技术+人工”相结合的方式过滤低俗等违法内容：先依靠技术进行违规内容的初步筛选，快速识别成千上万条图文、音视频信息，初步筛选出疑似含有违法内容的信息，然后再由人工进行最终审核。“技术+人工的审核“方式短时间内仍然是主流方法。

三、第三方审核：技术型公司与内容型公司主要参与。

对大型互联网企业来说，自建内容审核团队虽然成本较高但便于管理且保证内容审核的高效。而对中小型创业企业来说，技术资金有限，无法快速搭建属于自己的内 容审核团队，因此应运而生第三方内容审核机构。

根据百度AI开发平台上“内容审核解决方案”介绍：机器审核，建设30人审核团 队，包含算法、产品、策略、运营团队及标注、机器资源一年投入需要在上千万元；人工审核，每人每天审核1万张图片，日新增100万张图片，则年投入需要在 800万元左右。（此数据来源为19年早期数据）“相比于企业自建内容审核体系，第三方服务企业能够帮助企业降低90%运营成本”。（部分价格较低的服务商还不止）

无论是自建审核团队还是第三方内容审核，基本都是“技术+人工”两个步骤进 行。从这个角度来看，未来第三方内容审核行业或将形成技术型公司和内容型公司 两大阵营。技术型公司以拥有AI技术的大互联网公司为主，他们在自然语言处理、 图像识别、人工智能等技术上具有明显优势，数据量庞大可实现不断的机器学习。 对这些公司来说，内容审核只是其业务的一个部分，其他还包括对网络垃圾信息过滤、互联网安全等全方位的企业级服务。

主要客户：只要有图文或视频内容的互联网公司，都有可能成为第三方风控的客户。

内容风险管控平台应该具有四类特质：

1）政策密集型：专业内容审核机构要在信息源头把控舆论导向和价值取向，对政策进行深入的理解和动态把握能力。

2）技术密集型：借助人工智能等技术提升内容风控的能力和水平。

3）管理密集型：完善内部管理机制，培养审核人才队伍，提升审核效率。

4）人才密集型：目前机器学习水平难以完全满足增长快且情况多变的互联网内容审核需求，尤其是时政、财经、文史等深度内容，需要人工进行审核。

下面为大家介绍一篇有关内容风控的闭环图。（服务逻辑是事前+事中+事后）

今天的介绍就暂告一段落了。有什么问题都可以直接交流，欢迎更多内容安全领域的专业人士进行指导交流。