视频内容审核是借助于 AI 对视频内容进行智能审核,是一种离线任务。任务的执行结果中,包括审核评分、审核建议和嫌疑视频片段。根据“审核建议”,视频管理者可以决定视频是否允许公开,有效规避违规视频带来的法律风险和品牌伤害。
云点播可以对视频画面、ASR 文字和 OCR 文字三种对象进行智能识别,其操作包括令人反感的信息、令人不安全的信息和令人不适宜的信息。
对象 | 操作 | 说明 |
---|---|---|
视频画面(人和物体) | ||
令人反感的信息 |
对视频画面做令人反感的信息识别,识别内容包括:
|
|
令人不安全的信息 |
对视频画面做令人不安全的信息识别,识别内容包括:
|
|
令人不适宜的信息 |
对视频画面做令人不适宜的信息识别,识别内容包括:
|
|
ASR 文字(音频中的文字) | 令人反感的信息 | 对音频中的文字做令人反感的信息识别,识别出嫌疑关键词 |
令人不适宜的信息 | 对音频中的文字做令人不适宜的信息识别,识别出嫌疑关键词 | |
OCR 文字(画面中的文字) | 令人反感的信息 | 对画面中的文字做令人反感的信息识别,识别出嫌疑关键词 |
令人不适宜的信息 | 对画面中的文字做令人不适宜的信息识别,识别出嫌疑关键词 |
字段名 | 类型 | 含义 |
---|---|---|
confidence | Float | 审核评分(0 - 100),评分越高,嫌疑越大 |
suggestion | String | 审核建议,有 pass,review,block 三种:
|
segments | Array | 有嫌疑的视频片段,帮助定位视频中具体哪一段涉嫌违规 |
通过视频审核参数,可以控制审核任务具体执行哪几项审核操作。云点播使用视频审核模板来表示审核参数集合,通过视频审核模板,可以指定审核任务中执行以下哪一项或几项操作:
针对常见的操作组合,云点播提供了 预置视频审核模板。另外,您还可以调用 服务端 API 创建和管理自定义视频审核模板。
发起视频内容审核任务,有“通过服务端 API 直接发起”、“通过控制台直接发起”和“上传时指定要执行的任务”三种方式。具体请参照视频处理的 任务发起。
以下是各种方式发起视频内容审核任务的说明:
AiContentReviewTask
参数指定 视频内容审核模板 的模板 ID。AiContentReviewTask
参数指定 视频内容审核模板 的模板 ID。procedure
参数指定为该任务流。procedure
指定该任务流。发起视频审核任务后,您可以通过异步等待 结果通知 和同步进行 任务查询 两种方式获取视频审核任务的执行结果。下面是发起审核任务后,普通回调方式下结果通知的示例(省略了值为 null 的字段):
{
"EventType":"ProcedureStateChanged",
"ProcedureStateChangeEvent":{
"TaskId":"1256768367-Procedure-2e1af2456351812be963e309cc133403t0",
"Status":"FINISH",
"FileId":"5285890784246869930",
"FileName":"动物世界",
"FileUrl":"http://1256768367.vod2.myqcloud.com/xxx/xxx/AtUCmy6gmIYA.mp4",
"MetaData":{
"AudioDuration":60,
"AudioStreamSet":[
{
"Bitrate":383854,
"Codec":"aac",
"SamplingRate":48000
}
],
"Bitrate":1021028,
"Container":"mov,mp4,m4a,3gp,3g2,mj2",
"Duration":60,
"Height":480,
"Rotate":0,
"Size":7700180,
"VideoDuration":60,
"VideoStreamSet":[
{
"Bitrate":637174,
"Codec":"h264",
"Fps":23,
"Height":480,
"Width":640
}
],
"Width":640
},
"AiContentReviewResultSet":[
{
"Type":"Porn",
"PornTask":{
"Status":"SUCCESS",
"ErrCode":0,
"Message":"",
"Input":{
"Definition":10
},
"Output":{
"Confidence":98,
"Suggestion":"block",
"Label":"sexy",
"SegmentSet":[
{
"StartTimeOffset":9.5,
"EndTimeOffset":14,
"Confidence":98,
"Suggestion":"block",
"Label":"sexy",
"Url":"http://xxx.vod2.myqcluod.com/xxx/xxx/xx1.jpg",
"PicUrlExpireTimeStamp":1530005146
},
{
"StartTimeOffset":16.5,
"EndTimeOffset":18,
"Confidence":80,
"Suggestion":"review",
"Label":"sexy",
"Url":"http://xxx.vod2.myqcluod.com/xxx/xxx/xx2.jpg",
"PicUrlExpireTimeStamp":1530005146
},
{
"StartTimeOffset":41,
"EndTimeOffset":49,
"Confidence":97,
"Suggestion":"block",
"Label":"sexy",
"Url":"http://xxx.vod2.myqcluod.com/xxx/xxx/xx3.jpg",
"PicUrlExpireTimeStamp":1530005146
}
]
}
}
},
{
"Type":"Terrorism",
"TerrorismTask":{
"Status":"SUCCESS",
"ErrCode":0,
"Message":"",
"Input":{
"Definition":10
},
"Output":{
"Confidence":0,
"Suggestion":"pass",
"SegmentSet":[
]
}
}
},
{
"Type":"Political",
"PoliticalTask":{
"Status":"SUCCESS",
"ErrCode":0,
"Message":"",
"Input":{
"Definition":10
},
"Output":{
"Confidence":0,
"Suggestion":"pass",
"SegmentSet":[
]
}
}
}
],
"TasksPriority":0,
"TasksNotifyMode":""
}
}
回调结果中,ProcedureStateChangeEvent.AiContentReviewResultSet
有Type
为Porn
、Terrorism
和Political
三种类型的审核结果,分别代表视频画面令人反感的信息、视频画面令人不安全的信息和视频画面令人不适宜的信息。
Type
为Porn
的结果显示,Output.Suggestion
为block
,即令人反感的信息可能性高,建议拦截,令人反感的信息的置信度为98分,令人反感的信息的原因是sexy
(性感)。Type
为Porn
的结果Output.SegmentSet
,给出了三段有令人反感的信息嫌疑的视频片段,每个片段的StartTimeOffset
和EndTimeOffset
标明了片段起止时间。Type
为Terrorism
和Political
的结果显示,视频没有令人不安全的信息和令人不适宜的信息的嫌疑。
本页内容是否解决了您的问题?