内容审核 MODERATION-华为云

内容审核 MODERATION-图像内容审核（V2）:请求参数

请求参数表2 请求Header参数参数是否必选参数类型描述 X-Auth-Token 是 String 用户Token。用于获取操作API的权限。获取方法请参见获取Token 接口，响应消息头中X-Subject-Token的值即为Token。表3 请求Body参数参数是否必选参数类型描述 url 否 String 与image二选一。图片的URL路径，目前支持：公网HTTP/HTTPS URL 华为云OBS提供的URL，使用OBS数据需要进行授权。包括对服务授权、临时授权、匿名公开授权。详请参见配置OBS访问权限。说明：接口响应时间依赖图片的下载时间，如果图片下载时间过长，会返回接口调用失败。请保证被检测图片所在的存储服务稳定可靠，建议您使用华为云OBS存储。 image 否 String 与url二选一。图片文件Base64编码字符串。要求base64编码后大小不超过10M。支持JPEG/PNG/BMP/WEBP/GIF格式。 moderation_rule 否 String 图像审核规则名称，默认使用default规则。说明：审核规则的创建和使用请参见配置审核规则。 categories 否 Array of strings 检测场景。可添加的检测场景如下： terrorism：暴恐元素的检测。 porn：涉黄内容元素的检测。 ad：广告图文的检测。 all：terrorism和porn等场景的检测，当选择all时，无法再添加其他场景，否则会报错。可通过配置上述场景，来完对应场景元素的检测。为空或无此参数表示terrorism检测，但不包含porn场景。说明：每个检测场景的检测次数会分类统计。 ad_categories 否 Array of strings 图文审核检测场景。当categories包含ad时，该参数生效。当前支持的场景有系统场景和用户自定义场景：系统场景为： qr_code：二维码 porn：涉黄 ad：广告 abuse：辱骂 contraband：违禁品用户自定义场景为：自定义黑名单词库。说明：自定义词库的创建和使用请参见配置自定义词库 V2。 threshold 否 Float 结果过滤门限，只有置信度不低于此门限的结果才会呈现在detail的列表中，取值范围 0-1，当未设置此值时各个检测场景会使用各自的默认值。 terrorism检测场景的默认值为0。 ad检测场景的默认值为0。无特殊需求直接不传此参数或像示例中一样值设为空字符串即可。说明：如果检测场景中的最高置信度也未达到threshold，则结果列表为空；反之threshold过小，则会使结果列表中内容过多。 threshold参数不支持porn场景筛选。 threshold参数不会对响应中的suggestion产生影响。 show_ocr_text 否 Boolean 是否返回ocr识别结果，默认值为false。

内容审核 MODERATION

内容审核 MODERATION-图像内容审核（V2）:响应示例

响应示例状态码： 200 成功响应示例 { "result" : { "detail" : { "terrorism" : [ { "confidence" : 0.7315528178215026, "label" : "xxx" }, { "confidence" : 0.26844718217849733, "label" : "yyy" } ] }, "suggestion" : "block", "category_suggestions" : { "terrorism" : "review" } } } 状态码： 400 失败响应示例 { "error_code" : "AIS.0402", "error_msg" : "The image format is not supported." }

内容审核 MODERATION

内容审核 MODERATION-图像内容审核（V2）:请求示例

请求示例 “endpoint”即调用API的请求地址，不同服务不同区域的endpoint不同，具体请参见终端节点。例如，服务部署在“华北-北京四”区域的“endpoint”为“moderation.cn-north-4.myhuaweicloud.com”，请求URL为“https://moderation.cn-north-4.myhuaweicloud.com/v2/{project_id}/moderation/image”，“project_id”为项目ID，获取方法请参见获取项目ID。方式一：使用图片的BASE64编码，识别用户上传的图像内容是否有敏感内容，检测场景为涉黄，暴恐，图像审核规则为默认规则。 POST https://{endpoint}/v2/{project_id}/moderation/image { "categories" : [ "porn", "terrorism" ], "moderation_rule" : "default", "url" : "", "image" : "/9j/4AAQSkZJRgABAgEASABIAAD/4RFZRXhpZgAATU0AKgAAAAgABwESAAMAAAABAAEAAAEaAAUAAAABAAAAYgEbAAUAAAABAAAA...", "threshold" : "" } 方式二：使用图片的url，识别用户上传的图像内容是否有敏感内容，检测场景为涉黄，暴恐，图像审核规则为默认规则。 POST https://{endpoint}/v2/{project_id}/moderation/image { "categories" : [ "porn", "terrorism" ], "moderation_rule" : "default", "url" : "https://BucketName.obs.myhuaweicloud.com/ObjectName", "image" : "", "threshold" : "" }

内容审核 MODERATION

内容审核 MODERATION-查询视频内容审核作业:请求示例

请求示例 “endpoint”即调用API的请求地址，不同服务不同区域的endpoint不同，具体请参见终端节点。例如，服务部署在“华北-北京四”区域的“endpoint”为“moderation.cn-north-4.myhuaweicloud.com”，请求URL为“https://moderation.cn-north-4.myhuaweicloud.com/v3/{project_id}/moderation/video/jobs/{job_id}”，“project_id”为项目ID，获取方法请参见获取项目ID，“job_id”为创建作业成功时，接口返回的job_id。 GET https://{endpoint}/v3/{project_id}/moderation/video/jobs/{job_id}

内容审核 MODERATION

内容审核 MODERATION-查询视频内容审核作业:响应示例

响应示例状态码： 200 成功响应示例 { "request_id" : "xxxx", "job_id" : "xxx", "status" : "succeeded", "request_params" : { "data" : { "url" : "xxxx", "frame_interval" : 5 }, "event_type" : "default", "image_categories" : [ "porn", "terrorism", "image_text" ], "audio_categories" : [ "porn", "ad", "moan", "abuse" ], "callback" : "xxx" }, "create_time" : "2022-07-30T08:57:11.011Z", "update_time" : "2022-07-30T08:57:14.014Z", "result" : { "suggestion" : "block", "image_detail" : [ { "suggestion" : "block", "category" : "porn", "ocr_text" : "123", "time" : 0, "detail" : [ { "confidence" : 0.676015138626099, "category" : "porn", "suggestion" : "block", "label" : "pornography" }, { "confidence" : 0.666015138626099, "category" : "porn", "suggestion" : "review", "label" : "sexy_female" }, { "confidence" : 0.666015138626099, "category" : "xxx", "suggestion" : "block", "label" : "leader" }, { "confidence" : 0.691423773765564, "category" : "xxx", "suggestion" : "block", "face_location" : { "top_left_x" : 12, "top_left_y" : 13, "bottom_right_x" : 200, "bottom_right_y" : 240 }, "label" : "leader" }, { "confidence" : 0.691423773765564, "category" : "porn", "suggestion" : "block", "face_location" : { "top_left_x" : 12, "top_left_y" : 13, "bottom_right_x" : 100, "bottom_right_y" : 2000 }, "label" : "leader" }, { "confidence" : 0.891423773765564, "category" : "image_text", "suggestion" : "block", "label" : "qr_code" }, { "confidence" : 0.891423773765564, "category" : "image_text", "suggestion" : "block", "label" : "qr_code", "qr_content" : "xxxxxxxxx", "qr_location" : { "top_left_x" : 12, "top_left_y" : 13, "bottom_right_x" : 100, "bottom_right_y" : 2000 } }, { "confidence" : 0.891423773765564, "category" : "image_text", "suggestion" : "block", "label" : "porn", "segments" : [ { "segment" : "xxx" }, { "segment" : "xx" } ] } ] } ], "audio_detail" : [ { "suggestion" : "block", "label" : "porn", "audio_text" : "xxxxx", "end_time" : 10, "start_time" : 0, "detail" : [ { "confidence" : 0.999117187582349, "label" : "porn", "suggestion" : "block", "segments" : [ { "segment" : "xxx" } ] }, { "confidence" : 0.885117187582349, "label" : "porn", "suggestion" : "block" } ] } ] } } 状态码： 400 失败响应示例 { "error_code" : "AIS.0030", "error_msg" : "Job not found" }

内容审核 MODERATION

内容审核 MODERATION-查询视频内容审核作业:响应参数

响应参数状态码： 200 表3 响应Body参数参数参数类型描述 request_id String 本次请求的唯一标识，用于问题排查，建议保存。 job_id String 作业id。 status String 作业状态，可取值有： running: 正在运行 succeeded: 运行成功 failed: 运行失败 request_params request_params object 作业创建参数。 create_time String 作业创建时间。 update_time String 作业更新时间。 result result object 作业审核结果，当作业状态为succeeded时存在。表4 request_params 参数参数类型描述 data data object 创建作业时传的data参数。 event_type String 创建作业时传的event_type参数。 image_categories Array of strings 创建作业时传的image_categories参数。 audio_categories Array of strings 创建作业时传的audio_categories参数。 callback String 创建作业时传的callback参数。表5 data 参数参数类型描述 url String 创建作业时传的url参数。 frame_interval Integer 创建作业时传的frame_interval参数，默认为5秒截取一帧。表6 result 参数参数类型描述 suggestion String 视频审核结果是否通过。 block：包含敏感信息，不通过 review：需要人工复检 pass：不包含敏感信息，通过 image_detail Array of image_detail objects 图像审核详情。 audio_detail Array of audio_detail objects 音频审核详情。表7 image_detail 参数参数类型描述 suggestion String 图像审核结果是否通过。 block：包含敏感信息，不通过 review：需要人工复检 category String 检测结果的一级标签。支持category列表如下： terrorism: 暴恐 porn: 色情 image_text: 图文审核 ocr_text String 图文审核检测出的文本，只有在category参数配置image_text且检测出文本时展示该字段。 time Float 截帧在视频文件中的时间，单位为秒。 detail Array of detail objects 图像帧审核详情。表8 detail 参数参数类型描述 confidence Float 置信度，可选值在0-1之间，值越大，可信度越高。 category String 检测结果的一级标签。支持category列表如下： terrorism: 暴恐 porn: 色情 image_text: 图文审核 suggestion String 审核结果是否通过。 block：包含敏感信息，不通过 review：需要人工复检 label String 识别的详细标签。 face_location face_location object 人物位置信息。 qr_location qr_location object 二维码位置信息。 qr_content String 图片中二维码指向的链接，当请求参数categories中包含image_text时存在。 segments Array of segments objects image_text场景下命中的文本片段。表9 face_location 参数参数类型描述 top_left_x Integer 检测出人脸的左上角横坐标。 top_left_y Integer 检测出人脸的左上角纵坐标。 bottom_right_x Integer 检测出人脸的右下角横坐标。 bottom_right_y Integer 检测出人脸的右下角纵坐标。表10 qr_location 参数参数类型描述 top_left_x Integer 检测出的二维码左上角横坐标。 top_left_y Integer 检测出的二维码左上角纵坐标。 bottom_right_x Integer 检测出的二维码右下角横坐标。 bottom_right_y Integer 检测出的二维码右下角纵坐标。表11 segments 参数参数类型描述 segment String 命中的风险片段。表12 audio_detail 参数参数类型描述 suggestion String 音频片段审核结果是否通过。 block：包含敏感信息，不通过 review：需要人工复检 label String 音频片段检测标签，选取detail中置信度最大的标签，可取值如下： terrorism: 暴恐 porn: 色情 ad: 广告 ad_law: 广告法 abuse: 辱骂 ban: 违禁 meaningless: 无意义 moan: 娇喘 audio_text String 音频片段文本内容。 end_time Float 音频片段结束时间。 start_time Float 音频片段开始时间。 detail Array of detail objects 音频片段审核详情。表13 detail 参数参数类型描述 confidence Float 风险置信度。 label String 风险标签。 suggestion String 审核处理建议。 block：包含敏感信息，不通过 review：需要人工复检 segments Array of segments objects 命中的风险片段信息列表，如果命中语义算法模型，则该字段不会存在。表14 segments 参数参数类型描述 segment String 命中的风险片段。状态码： 400 表15 响应Body参数参数参数类型描述 error_code String 调用失败时的错误码，具体请参见错误码。调用成功时无此字段。 error_msg String 调用失败时的错误信息。调用成功时无此字段。

内容审核 MODERATION

内容审核 MODERATION-创建音频内容审核作业:响应参数

响应参数状态码： 200 表5 响应Body参数参数参数类型描述 request_id String 本次请求的唯一标识，用于问题排查，建议保存。最小长度：2 最大长度：64 job_id String 作业唯一标识。状态码： 400 表6 响应Body参数参数参数类型描述 error_code String 调用失败时的错误码，具体请参见错误码。调用成功时无此字段。 error_msg String 调用失败时的错误信息。调用成功时无此字段。

内容审核 MODERATION

内容审核 MODERATION-创建音频内容审核作业:请求示例

请求示例 “endpoint”即调用API的请求地址，不同服务不同区域的endpoint不同，具体请参见终端节点。例如，服务部署在“华北-北京四”区域的“endpoint”为“moderation.cn-north-4.myhuaweicloud.com”，请求URL为“https://moderation.cn-north-4.myhuaweicloud.com/v3/{project_id}/moderation/audio/jobs”，“project_id”为项目ID，获取方法请参见获取项目ID。创建音频内容审核作业，事件类型为默认事件，检测的风险类型为涉黄，广告。 POST https://{endpoint}/v3/{project_id}/moderation/audio/jobs { "data" : { "url" : "https://xxxxx.wav" }, "event_type" : "default", "categories" : [ "porn", "ad" ], "callback" : "http://xxxx" }

内容审核 MODERATION

内容审核 MODERATION-创建音频内容审核作业:请求参数

请求参数表2 请求Header参数参数是否必选参数类型描述 X-Auth-Token 是 String 用户Token。通过调用 IAM 服务获取用户Token接口获取（响应消息头中X-Subject-Token的值）。表3 请求Body参数参数是否必选参数类型描述 data 是 AudioInputBody object 音频数据输入。 event_type 否 String 事件类型，可选值如下： default：默认事件 audiobook：有声书 education：教育音频 game：游戏语音房 live：秀场直播 ecommerce：电商直播 voiceroom：交友语音房 private：私密语音聊天 categories 否 Array of strings 需要检测的风险类型，列表不能为空。风险类型如下： porn：涉黄检测 ad：广告检测 moan：娇喘检测 abuse：辱骂检测 callback 否 String 该字段非空时，检测结果会回调通知您的URL。该字段为空时，您需要定时轮询获取检测结果。说明：您的callback接口需要支持POST方法；回调数据格式，请参考查询音频内容审核作业的响应示例；您的服务端callback接口收到内容安全发送的结果后，如果在响应超时时间3秒内返回的HTTP状态码为200，则表示接收成功。其他HTTP状态码或响应时间大于3秒后返回状态码均视为接收失败，接收失败时，内容安全将重复发送多次检测结果。 biz_type 否 String 用户在控制台界面创建的自定义审核策略名称。如果请求参数中传了biz_type则优先使用biz_type，event_type和categories参数将不生效，审核策略由biz_type的设置决定。如果用户没传biz_type则event_type和categories必须传。 seed 否 String 用于回调通知时校验请求是由华为云内容安全服务发起，您可以自定义。值为随机字符串，由英文字母、数字、下划线组成，不超过64个字符。说明：当seed非空时，headers中将包含X-Auth-Signature字段，字段的值使用HmacSHA256算法生成，待加密字符串由create_time、job_id、request_id、seed按照顺序拼接而成，密钥为seed。表4 AudioInputBody 参数是否必选参数类型描述 url 是 String 音频url地址。 language 否 String 支持检测的音频语言。可选值为zh：中文。不传该参数表示默认为zh。

内容审核 MODERATION

内容审核 MODERATION-创建音频内容审核作业:响应示例

响应示例状态码： 200 成功响应示例 { "job_id" : "01661356800_7c0fe871f80543358917e4faebca4a48", "request_id" : "07490f57ac5e034c077ab25b5f9e1da5" } 状态码： 400 失败响应示例 { "error_code": "AIS.0401", "error_msg": "The input parameter event_type is incorrect." }

内容审核 MODERATION

内容审核 MODERATION-查询文档审核作业结果:响应示例

响应示例状态码： 200 成功响应示例 { "job_id" : "xxxxxx", "status" : "succeeded", "result" : { "suggestion" : "block", "details" : [ { "start_position" : 1, "end_position" : 10, "suggestion" : "block", "index" : 12, "label" : "porn", "type" : "text", "text" : "xxxxxxxxx", "segments" : [ { "segment" : "xxx" }, { "segment" : "xxx" }, { "segment" : "xxx" } ] } ] }, "request_params" : { "data" : { "url" : "https://xxxxx", "format" : "pdf" }, "event_type" : "default", "image_categories" : [ "politics", "porn", "image_text", "terrorism" ], "text_categories" : [ "default" ], "callback" : "http://xxx" } } 状态码： 400 失败响应示例 { "error_code" : "AIS.0030", "error_msg" : "Job not found" }

内容审核 MODERATION 文档内容审核

内容审核 MODERATION-查询文档审核作业结果:响应参数

响应参数状态码： 200 表3 响应Body参数参数参数类型描述 job_id String 作业id。 status String 作业状态，可取值有： running：正在运行 succeeded：运行成功 failed：运行失败 result result object 作业审核结果，当作业状态为succeeded时存在。 request_params request_params object 作业创建参数。 create_time String 作业创建时间。 update_time String 作业更新时间。 request_id String 本次请求的唯一标识，用于问题排查，建议保存。表4 result 参数参数类型描述 suggestion String 文档审核结果是否通过。 block：包含敏感信息，不通过 review：需要人工复检 pass：不包含敏感信息，通过 details Array of details objects 审核详情。表5 details 参数参数类型描述 suggestion String 当前内容片段的处置建议： block：包含敏感信息，不通过 review：需要人工复检 type String 当前内容片段的类型，可取值有： text：文本 image：图像 video：视频 label String 当前内容片段的风险类型，可取值为： terrorism：暴恐 porn：色情 sexy：性感 abuse：辱骂 ad：广告 qr_code：二维码 watermark：水印 meaningless：无意义 ban：违禁 bad_scene：不良场景 moan：娇喘 index Integer 当前处理的片段索引。 text String 当前内容片段中的文本内容，仅当type为text时存在。 start_position Integer 当前文本内容片段在输入中的起始位置，仅当type为text时存在。 end_position Integer 当前文本内容片段在输入中的结束位置，仅当type为text时存在。 image_url String 网页图片url，仅当type为image且文档格式为webpage时存在。 segments Array of segments objects 命中的风险片段信息列表，仅在有命中敏感词时才返回。 video_image_details Array of DocumentVideoImageDetail objects 网页视频中截帧部分审核详情。 audio_details Array of DocumentAudioDetail objects 网页视频中音频部分审核详情。表6 segments 参数参数类型描述 segment String 命中的敏感词。表7 DocumentVideoImageDetail 参数参数类型描述 time Float 截帧在视频文件中的时间，单位为秒。 suggestion String 截帧审核结果是否通过。 block：包含敏感信息，不通过 review：需要人工复检 ocr_text String 截帧检测出的文本。 label String 识别的详细标签。 segments Array of segments objects 命中的文本风险片段列表。表8 segments 参数参数类型描述 segment String 命中的风险片段。表9 DocumentAudioDetail 参数参数类型描述 start_time Float 音频片段开始时间。 end_time Float 音频片段结束时间。 suggestion String 音频片段审核处理建议。 block：包含敏感信息，不通过 review：需要人工复检 audio_text String 音频片段文本内容。 label String 音频片段标签。 segments Array of segments objects 命中的风险片段信息列表。表10 segments 参数参数类型描述 segment String 命中的风险片段。表11 request_params 参数参数类型描述 data data object 创建作业时传的data参数。 event_type String 创建作业时传的event_type参数。 image_categories Array of strings 创建作业时传的image_categories参数。 text_categories Array of strings 创建作业时传的text_categories参数。 video_image_categories Array of strings 创建作业时传的video_image_categories参数。 audio_categories Array of strings 创建作业时传的audio_categories参数。 callback String 创建作业时传的callback参数。表12 data 参数参数类型描述 url String 创建作业时传的url参数。目前支持：公网HTTP/HTTPS URL。 format String 创建作业时传的format参数。 frame_interval Integer 创建作业时传的frame_interval参数。状态码： 400 表13 响应Body参数参数参数类型描述 error_code String 调用失败时的错误码，具体请参见错误码。调用成功时无此字段。 error_msg String 调用失败时的错误信息。调用成功时无此字段。

内容审核 MODERATION 文档内容审核

内容审核 MODERATION-创建视频内容审核作业:请求示例

请求示例创建视频内容审核作业，事件类型为默认事件，检测的风险类型为涉黄，暴恐，图文违规内容检测。 “endpoint”即调用API的请求地址，不同服务不同区域的endpoint不同，具体请参见终端节点。例如，服务部署在“华北-北京四”区域的“endpoint”为“moderation.cn-north-4.myhuaweicloud.com”，请求URL为“https://moderation.cn-north-4.myhuaweicloud.com/v3/{project_id}/moderation/video/jobs”，“project_id”为项目ID，获取方法请参见获取项目ID。 POST https://{endpoint}/v3/{project_id}/moderation/video/jobs { "data" : { "url" : "https://xxxx", "frame_interval" : 5 }, "event_type" : "default", "image_categories" : [ "porn","terrorism", "image_text" ], "audio_categories" : [ "porn", "ad", "moan", "abuse" ], "callback" : "http://xxxx" }

内容审核 MODERATION 视频审核

内容审核 MODERATION-创建视频内容审核作业:响应示例

响应示例状态码： 200 成功响应示例 { "job_id" : "01661356800_7c0fe871f80543358917e4faebca4a48", "request_id" : "07490f57ac5e034c077ab25b5f9e1da5" } 状态码： 400 失败响应示例 { "error_code" : "AIS.0401", "error_msg" : "The input parameter event_type is incorrect." }

内容审核 MODERATION 视频审核

内容审核 MODERATION-创建视频内容审核作业:请求参数

请求参数表2 请求Header参数参数是否必选参数类型描述 X-Auth-Token 是 String 用户Token。通过调用IAM服务获取用户Token接口获取（响应消息头中X-Subject-Token的值）。表3 请求Body参数参数是否必选参数类型描述 data 是 data object 视频数据输入。 biz_type 否 String 用户在控制台界面创建的自定义审核策略名称。如果请求参数中传了biz_type则优先使用biz_type。event_type、image_categories、audio_categories参数将不生效，审核策略由biz_type的设置决定。如果用户没传biz_type则event_type，image_categories必须传。 event_type 否 String 事件类型，可选值如下： default：默认事件 group_message：群聊视频 message：私聊视频 live：秀场直播 dynamic：动态 image_categories 否 Array of strings 视频中画面需要检测的风险类型，列表不能为空。 terrorism：暴恐内容的检测 porn：鉴黄内容的检测 image_text：图文违规内容的检测（检测图片中出现的广告、色情、暴恐的文字违规内容以及二维码内容） audio_categories 否 Array of strings 视频中音频需要检测的风险类型，不传或为空时表示不审核音频维度。 porn：涉黄检测 ad: 广告检测 moan: 娇喘检测 abuse: 辱骂检测 callback 否 String 该字段非空时，检测结果会回调通知您的URL。该字段为空时，您需要定时轮询获取检测结果。说明：您的callback接口需要支持POST方法；回调数据格式，请参考查询视频内容审核作业的响应示例；您的服务端callback接口收到内容安全发送的结果后，如果在响应超时时间3秒内返回的HTTP状态码为200，则表示接收成功。其他HTTP状态码或响应时间大于3秒后返回状态码均视为接收失败，接收失败时，内容安全将重复发送多次检测结果。 seed 否 String 用于回调通知时校验请求是由华为云内容安全服务发起，您可以自定义。值为随机字符串，由英文字母、数字、下划线组成，不超过64个字符。说明：当seed非空时，headers中将包含X-Auth-Signature字段，字段的值使用HmacSHA256算法生成，待加密字符串由create_time、job_id、request_id、seed按照顺序拼接而成，密钥为seed。表4 data 参数是否必选参数类型描述 url 是 String 视频url地址。 frame_interval 否 Integer 截帧频率间隔，单位为秒，取值范围为1~60s。如果不传递默认5s截帧一次 language 否 String 支持的语言，当前只支持zh：中文，默认取值为zh。

内容审核 MODERATION 视频审核

云服务器内容精选

内容审核 MODERATION

7*24

备案

专业服务

退订

建议反馈

售前咨询热线