开发者学习笔记【阿里云云安全助理工程师认证（ACA）课程：02-业务安全-ACA-01-内容安全】
课程地址：https://edu.aliyun.com/course/3111981/lesson/18864
02-业务安全-ACA-01-内容安全
内容介绍：
一、内容安全简介
二、内容安全的产品功能介绍
三、内容安全如何保证检测规避风险的效果
四、OSS 违规检测的操作
五、站点检测功能
一、内容安全简介
什么是内容安全？
内容安全是阿里云依托于自己多年的安全技术积累，在阿里云、淘宝、支付宝等各种平台上的管控经验，来为用户提供的一个非常成熟的，轻量化接入的关于内容安全的解决方案。
内容的安全基本上指什么像我们的网络上、互联网上所提供的一些多媒体的内容，如文本、图片、视频、语音等。通过内容安全这种解决方案可以帮助企业开发者在复杂多变的互联网环境当中迅速发现这些风险，通过内容安全提供的多样化的场景检测手段帮助我们去检测这样的风险，有效地去降低内容违规的可能性，来保障我们应用的信息内容安全。
二、内容安全的产品功能介绍
内容安全的产品功能主要包含三个部分，分别是内容检测的API、 OSS 的违规检测以及站点检测。
首先内容检测API，是通过去调用阿里云所提供的 API 接口，对我们的目标内容去进行检测，那检测的内容是什么呢？
检测文本、图片、音视频等这一类多媒体资源里面是否包含色情、涉政、暴恐、广告、垃圾信息等。那么通过内容安全的 API 以系统化的方式来提供像审核、打标等这样的能力，保障接入效果。 同时像一些自定义的一些个性化的能力也能够通过内容安全的 API 来去进行一定程度上的控制，我们从它的名字上可以知道这是一个 API 的产品，所以它是需要一定的开发工作量的，那么这样的 API 开发工作量不算特别大，但是它可以适用于很多的业务场景，比如像视频网站、直播平台、社交平台，论坛、社区或者电商网站可能都可以使用到它。即一切的 UGC平台用户，来自生产内容的平台可能都需要内容检测 API 这样的方式对平台的内容进行安全把控。
其次， OSS 违规检测，这主要针对使用阿里云的 OSS 的这种对象存储的用户，即我们存在 OSS 的文件，我们提供了一些快速的去甄别是否涉黄、涉恐、涉政的这种内容检测的服务，对保存在 OSI 里的图片、视频等去进行这样的风险检测，并且我们也能提供比如自动删除或者自动冻结这些违规文件的这种功能，更重要的是这个功能是不需要进行开发，我们只需要进行一些简单的配置就可以投入来使用。
第三个方面的功能是站点检测，这个主要是提供给网站的站长们来使用，站点检测提供了像首页检测或者全站检测这样的功能，可以帮助我们的站长去检查网站的首页或者整站内容是否有违规的风险。
这时当我们在自己的站点里面发现有疑似违规的信息时，我们可以设置让站点检测的这个功能来提供给我们对应的通知或者把违规的内容做一个隔离，方便我们及时的对站点的内容进行整改。相对应的这个部分的功能也是不需要额外去开发的，也是做一些简单的页面配置就可以投入来使用，关于内容安全的主要就是这三个部分的功能。
三、内容安全如何保证检测规避风险的效果
内容安全如何来保证我们能够去很好地去实现这种内容检测规避风险的效果？
我们对内容安全的核心能力进行分析，内容安全的核心能力主要有这四个部分，第一个文本算法，第二个色情图片检测，第三个多媒体指纹和一些 OCR 的技术，先看 oss 违规检测，这个功能主要是帮助我们来检测 oss 空间里的图片或者音频、视频这样的图片和文件，是否存在像涉黄、涉恐、涉政这样的一些风险？如果存在风险， OSS 违规检测的这个功能会根据我们的配置来设置，这个风险文件是要被冻结，被隔离还是被删除，整个的基本的使用流程都是在控制台去做配置就可以，不需要去进行开发，所以我们只需要在控制台配置很少的几个页面就可以来实现这样的功能。
四、OSS 违规检测的操作
整个 OSS 违规检测操作大概分成四步，第一步是授权我们的内容安全的产品，可以去访问到 OSS 的存储空间，这时我们需要开通对应的权限，然后进行授权即可。第二步设置增量的扫描任务，通过增量扫描的设置，我们去指定这个OSS检测的这个 bucket 里面新增的图片增量就是新增的，图片、视频、文本等去进行自动的违规检测，当这个 bucket 里有新的图片或者文本或者音视频进来时，就会触发这个扫描任务并且在控制台上我们可以看到最近的一个星期的增量扫描的结果。
这个结果我们提供的一些页面给大家进行查看，当扫描的任务完成后，我们就可以随时在控制台来查看这个扫描的结果，并且根据扫描结果来实现对应的自助审核。自主审核一般有以下几个操作，一个是违规并删除，我们点击这个按钮就可以把图片或者这种有风险的这种音视频删除。还有一个按钮叫正常并忽略，也即我们认为它是一个误报，我们通过人工的审核发现这是一个正常的的资源，所以我们就可以选择忽略这个检测结果，忽略的带来的效果是这个资源即这个图片或者这个视频以后不在控制台上再显示，但是这个 OSS 里你已经储存还是存着，只是内容安全里面这个风险提示扫描结果里不再检测它，正常并解冻是用于如果说已经提前设置这个自动冻结的这个功能时，我们这时人再来进行审核发现这个冻结是不对的。 它这个图片是正常的，那么我们就可以选中这个图片或者视频，去点击正常或解冻并解冻的这样一个按钮，把已经冻结的图片或者视频去进行解冻。最后一步是可以查看一些统计信息，这个内容安全也提供了这个 OSS 违规检测这个功能，也提供一些数据统计功能，去监控一段时间内的一些统计数据，这样我们可以在控制台随时来查看这些统计信息，并且经过一段时间的统计后我们可以去根据我们的一些违规的情况做一些管控或者是做这样的一些处理。
五、站点检测功能
再看站点检测这个功能，这个功能主要是帮助我们的站长，它可以检测我们的网站首页，甚至全站的这些内容，是不是存在着像挂马、暗恋或者是一些色情低俗、色恐涉政的这样的一些风险。
站点检测这个功能，当发现我们的站点有一些疑似违规的信息的时候，就会根据我们所做的配置，当然这些配置也是很简单的把这些违规的信息提醒我们，以便我们去及时的去进行整改。站点检测这个功能主要的使用流程包含三个步骤，第一个是购买站点检测的实例，如果我们是首次使用这个功能时，是需要先购买，我们在站点检测的控制台里面选择实例管理的页面，单击购买实例去购买它即可。
第二个步骤是创建站点检测的任务，也即当我们购买站点检测的实例后，我们就去创建一个站点检测的任务，在里去绑定并验证我们想要检测的站点，通过检测验证通过后，这个站点检测功能它的这个实例。第二个步骤是创建站点检测的任务，在我们购买站点检测的实例以后，我们就需要去创建站点检测的任务来绑定并验证我们要进行检测的站点，验证通过以后，这个检测实例就会自动开始进行检测。检测的结果我们就可以去进行查询，我们就可以在控制台上来查看占领检测的结果，对存在的这种风险的这种 UIL 去进行处理，以上就是关于站点检测这个功能使用的简单的讲解。
