建议你们自行排查一遍,检测流程。
内容安全通过人工智能技术鉴别OSS中的违规图片,帮助您减少90%以上审核人力,有效降低涉黄涉政风险。
观看以下视频,快速了解内容安全OSS违规检测功能。
前提条件
设置增量扫描
您可以对指定的 Bucket 中的指定图片(或视频)启用增量内容自动检测,并根据检测结果执行相应处理;也可以对 OSS 空间中的指定图片(或视频)进行存量内容一次性检测,等待扫描完成后,直接查看检测结果,并执行相应处理。
参照以下步骤,对指定 Bucket 设置增量检测计划:
-
-
前往
设置 > OSS 违规检测。
-
在
Bucket 设置下,从左侧
待选择框中勾选需要检测的Bucket,将其添加到右侧的
已选择框中。
说明
左侧
待选择框中罗列了当前阿里云账号在OSS中的可检测的Bucket,上面的数字表示可选择的Bucket的数量(例如下图中的“15”)。
说明
右侧
已选择框中罗列了已选择的Bucket,上面的数字表示已选择的Bucket的数量(例如上图中的“9”)。单击已选择的Bucket右侧的漏斗图标可以设置过滤规则,仅扫描指定前缀(或目录下)的图片文件。例如,添加img/test_,则表示只扫描该Bucket中以
img/test_
为前缀的图片。
如果要扫描的图片文件在特定目录下,您可以在文件名前加上目录路径,以整体作为前缀。例如,您要扫描的文件在
img/201805目录下,且前缀为
test_,您可以添加
img/201805/test_;如果您只想扫描
img/201805目录下的图片,您可以添加
img/201805。
说明
您最多可以为一个Bucket设置10条过滤规则。
-
选择开启图片检测、视频检测,并完成相关配置。参数说明如下:
功能
配置
说明
图片检测
检测类型
勾选
涉黄、
涉政。
自动冻结
开启自动冻结后,当检测分值高于指定分值时,自动冻结图片。开启后,需要分别设置
涉黄自动冻结阈值和
涉政自动冻结阈值。
说明
请慎重修改冻结阈值。默认冻结分数是100分,正常情况下不建议设置到99分以下,分数过低可能会导致正常图片被冻结,尤其是开启存量扫描时。冻结后的图片前台不可访问,帮助您防止风险外露。对于被冻结的照片,您可在
OSS违规检测页面将其删除或者解冻。
高级设置
开启/关闭
限定每日图片扫描上限,并设置
每日扫描量上限。
说明
默认没有上限。如果设置了扫描上限,扫描数量超出限制后将会停止扫描,存在巨大违规图片外露的风险。常规情况下,不建议您设置扫描上限。
视频检测
检测类型
勾选
涉黄、
涉政。
视频截帧设置
-
截帧频率:截帧频率越高,识别准确率越高。最低 60 秒 1 帧,最高 1 秒 1 帧。
-
单视频最大截帧数:设置超过多少帧以后不再截帧,作为上限保护参数。最少 100 帧,最多 9999 帧。
-
视频文件大小:设置仅扫描多少M以内大小的文件。检测视频大小不能超出 500M。
自动冻结
开启后,违规视频将被自动冻结。勾选
涉黄视频、
涉政视频。
-
勾选
我已同意《OSS 违规检测服务条款》,并单击
保存,保存后的设置即时生效。
设置成功后,系统会按照配置,自动对已选择的Bucket进行图片/视频检测。
执行存量扫描
您可以对指定Bucket中的指定图片(或视频)启用增量内容自动检测,并根据检测结果执行相应处理;也可以对OSS空间中的指定图片(或视频)进行存量内容一次性检测,等待扫描完成后,直接查看检测结果,并执行相应处理。
参照以下步骤,一次性扫描指定Bucket中的存量图片(和视频):
-
-
前往
OSS 违规检测 > 存量扫描。
-
单击
开始扫描,并确认。
-
在
存量扫描设置对话框完成相关设置。配置说明如下:
配置
说明
Bucket设置
选择要扫描的Bucket,并为已选择的Bucket设置扫描过滤规则。具体操作见
设置增量扫描中步骤3说明。
时间范围
选择要检测的时间范围,该时间指图片上传到Bucket中的时间。
文件类型
勾选要检测的文件类型:
图片、
视频。
检测类型
勾选要检测的场景类型:
涉黄、
涉政。
说明
涉政和涉黄检测分开计费。例如,一张图片选择涉政和涉黄检测,既要计入涉政的计费,也会计入涉黄的计费。
其他设置
如
视频截帧、
自动冻结等,参考
设置增量扫描中步骤4说明。
-
单击
开始扫描,并等待扫描完成,扫描结束后您会收到短信通知。
在存量扫描过程中,您随时可以
终止扫描。手动终止扫描后,扫描任务及配置会为您保留7天,供您在合适时间
继续扫描。
检测结果处理
检测结束后,您可以在控制台查看、或按指定条件查询检测结果,并根据检测结果执行对应操作。
说明
存量和增量检测结果页面类似,以下以增量检测页面为例进行说明。
-
-
前往
OSS违规检测 > 增量扫描页面,直接查看检测结果。
-
设置查询条件,查询指定结果。
您可以指定图片/视频、涉黄/涉政、分值范围、检测结果、Bucket、图片上传的时间范围来过滤结果数据,直接查看您希望看到的结果(图中标识①)。其中,
-
将鼠标放置在每一张图片/视频上,会显示与该图片/视频对应的操作项。您可以进行以下操作:
-
单击
违规并删除,可将图片/视频从内容安全控制台和OSS Bucket中一并删除(图中标识②)。
-
单击
正常并忽略,则忽略该检测结果。忽略后该图片/视频将不再在控制台展示,并不影响保存在OSS Bucket中的图片/视频(图中标识②)。
-
单击图片/视频可将其选中,并支持多选。单击
全选可以选中当前页的所有图片/视频,单击
删除所选可将选中的图片/视频全部删除;单击
忽略所选可将选中的图片/视频全部忽略(图中标识③)。
-
若您设置了自动冻结功能,则还可以将已冻结的图片/视频
解冻(图中标识③)。
-
将鼠标放置在感叹号(!)上方可查看图片/视频的基本信息,包括创建时间、文件名和所在Bucket(图中标识④)。