tencent cloud

视频内容审核是借助于 AI 对视频内容进行智能审核，是一种离线任务。任务的执行结果中，包括审核评分、审核建议和嫌疑视频片段。根据“审核建议”，视频管理者可以决定视频是否允许公开，有效规避违规视频带来的法律风险和品牌伤害。

云点播可以对视频画面、ASR 文字和 OCR 文字三种对象进行智能识别，其操作包括令人反感的信息、令人不安全的信息和令人不适宜的信息。

视频审核模板

通过视频审核参数，可以控制审核任务具体执行哪几项审核操作。云点播使用视频审核模板来表示审核参数集合，通过视频审核模板，可以指定审核任务中执行以下哪一项或几项操作：

• 对视频画面做令人反感的信息识别
• 对视频画面做令人不安全的信息识别
• 对视频画面做令人不适宜的信息识别
• 对 ASR 文字做令人反感的信息识别
• 对 ASR 文字做令人不适宜的信息识别
• 对 OCR 文字做令人反感的信息识别
• 对 OCR 文字做令人不适宜的信息识别

针对常见的操作组合，云点播提供了 预置视频审核模板。另外，您还可以调用 服务端 API 创建和管理自定义视频审核模板。

任务发起

发起视频内容审核任务，有“通过服务端 API 直接发起”、“通过控制台直接发起”和“上传时指定要执行的任务”三种方式。具体请参照视频处理的 任务发起。

以下是各种方式发起视频内容审核任务的说明：

• 调用服务端 API ProcessMedia 发起任务：在请求中的AiContentReviewTask参数指定 视频内容审核模板 的模板 ID。
• 调用服务端 API ProcessMediaByUrl 发起任务：在请求中的AiContentReviewTask参数指定 视频内容审核模板 的模板 ID。
• 通过控制台对视频发起任务：在控制台 添加任务流，任务流中开启视频内容审核；在控制台使用该任务流 发起视频处理。
• 服务端上传时指定任务：在控制台 添加任务流，任务流中开启视频内容审核； 申请上传 中的procedure参数指定为该任务流。
• 客户端上传时指定任务：在控制台 添加任务流，任务流中开启视频内容审核；在 客户端上传签名 中的procedure指定该任务流。
• 控制台上传：在控制台 添加任务流，任务流中开启视频内容审核；通过控制台上传视频，选择 上传的同时对视频进行处理操作 并指定视频上传后执行该任务流。

结果获取

发起视频审核任务后，您可以通过异步等待 结果通知 和同步进行 任务查询 两种方式获取视频审核任务的执行结果。下面是发起审核任务后，普通回调方式下结果通知的示例（省略了值为 null 的字段）：

{
   "EventType":"ProcedureStateChanged",
   "ProcedureStateChangeEvent":{
       "TaskId":"1256768367-Procedure-2e1af2456351812be963e309cc133403t0",
       "Status":"FINISH",
       "FileId":"5285890784246869930",
       "FileName":"动物世界",
       "FileUrl":"http://1256768367.vod2.myqcloud.com/xxx/xxx/AtUCmy6gmIYA.mp4",
       "MetaData":{
           "AudioDuration":60,
           "AudioStreamSet":[
               {
                   "Bitrate":383854,
                   "Codec":"aac",
                   "SamplingRate":48000
               }
           ],
           "Bitrate":1021028,
           "Container":"mov,mp4,m4a,3gp,3g2,mj2",
           "Duration":60,
           "Height":480,
           "Rotate":0,
           "Size":7700180,
           "VideoDuration":60,
           "VideoStreamSet":[
               {
                   "Bitrate":637174,
                   "Codec":"h264",
                   "Fps":23,
                   "Height":480,
                   "Width":640
               }
           ],
           "Width":640
       },
       "AiContentReviewResultSet":[
           {
               "Type":"Porn",
               "PornTask":{
                   "Status":"SUCCESS",
                   "ErrCode":0,
                   "Message":"",
                   "Input":{
                       "Definition":10
                   },
                   "Output":{
                       "Confidence":98,
                       "Suggestion":"block",
                       "Label":"sexy",
                       "SegmentSet":[
                           {
                               "StartTimeOffset":9.5,
                               "EndTimeOffset":14,
                               "Confidence":98,
                               "Suggestion":"block",
                               "Label":"sexy",
                               "Url":"http://xxx.vod2.myqcluod.com/xxx/xxx/xx1.jpg",
                               "PicUrlExpireTimeStamp":1530005146
                           },
                           {
                               "StartTimeOffset":16.5,
                               "EndTimeOffset":18,
                               "Confidence":80,
                               "Suggestion":"review",
                               "Label":"sexy",
                               "Url":"http://xxx.vod2.myqcluod.com/xxx/xxx/xx2.jpg",
                               "PicUrlExpireTimeStamp":1530005146
                           },
                           {
                               "StartTimeOffset":41,
                               "EndTimeOffset":49,
                               "Confidence":97,
                               "Suggestion":"block",
                               "Label":"sexy",
                               "Url":"http://xxx.vod2.myqcluod.com/xxx/xxx/xx3.jpg",
                               "PicUrlExpireTimeStamp":1530005146
                           }
                       ]
                   }
               }
           },
           {
               "Type":"Terrorism",
               "TerrorismTask":{
                   "Status":"SUCCESS",
                   "ErrCode":0,
                   "Message":"",
                   "Input":{
                       "Definition":10
                   },
                   "Output":{
                       "Confidence":0,
                       "Suggestion":"pass",
                       "SegmentSet":[
                        ]
                   }
               }
           },
           {
               "Type":"Political",
               "PoliticalTask":{
                   "Status":"SUCCESS",
                   "ErrCode":0,
                   "Message":"",
                   "Input":{
                       "Definition":10
                   },
                   "Output":{
                       "Confidence":0,
                       "Suggestion":"pass",
                       "SegmentSet":[
                        ]
                   }
               }
           }
       ],
       "TasksPriority":0,
       "TasksNotifyMode":""
   }
}

回调结果中，ProcedureStateChangeEvent.AiContentReviewResultSet有Type为Porn、Terrorism和Political三种类型的审核结果，分别代表视频画面令人反感的信息、视频画面令人不安全的信息和视频画面令人不适宜的信息。

• Type为Porn的结果显示，Output.Suggestion为block，即令人反感的信息可能性高，建议拦截，令人反感的信息的置信度为98分，令人反感的信息的原因是sexy（性感）。
• Type为Porn的结果Output.SegmentSet，给出了三段有令人反感的信息嫌疑的视频片段，每个片段的StartTimeOffset和EndTimeOffset标明了片段起止时间。
• Type为Terrorism和Political的结果显示，视频没有令人不安全的信息和令人不适宜的信息的嫌疑。