文档内容审核-华为云

内容审核 MODERATION-查询文档审核作业结果:响应示例

响应示例状态码： 200 成功响应示例 { "job_id" : "xxxxxx", "status" : "succeeded", "result" : { "suggestion" : "block", "details" : [ { "start_position" : 1, "end_position" : 10, "suggestion" : "block", "index" : 12, "label" : "porn", "type" : "text", "text" : "xxxxxxxxx", "segments" : [ { "segment" : "xxx" }, { "segment" : "xxx" }, { "segment" : "xxx" } ] } ] }, "request_params" : { "data" : { "url" : "https://xxxxx", "format" : "pdf" }, "event_type" : "default", "image_categories" : [ "politics", "porn", "image_text", "terrorism" ], "text_categories" : [ "default" ], "callback" : "http://xxx" } } 状态码： 400 失败响应示例 { "error_code" : "AIS.0030", "error_msg" : "Job not found" }

内容审核 MODERATION 文档内容审核

内容审核 MODERATION-查询文档审核作业结果:响应参数

响应参数状态码： 200 表3 响应Body参数参数参数类型描述 job_id String 作业id。 status String 作业状态，可取值有： running：正在运行 succeeded：运行成功 failed：运行失败 result result object 作业审核结果，当作业状态为succeeded时存在。 request_params request_params object 作业创建参数。 create_time String 作业创建时间。 update_time String 作业更新时间。 request_id String 本次请求的唯一标识，用于问题排查，建议保存。表4 result 参数参数类型描述 suggestion String 文档审核结果是否通过。 block：包含敏感信息，不通过 review：需要人工复检 pass：不包含敏感信息，通过 details Array of details objects 审核详情。表5 details 参数参数类型描述 suggestion String 当前内容片段的处置建议： block：包含敏感信息，不通过 review：需要人工复检 type String 当前内容片段的类型，可取值有： text：文本 image：图像 video：视频 label String 当前内容片段的风险类型，可取值为： terrorism：暴恐 porn：色情 sexy：性感 abuse：辱骂 ad：广告 qr_code：二维码 watermark：水印 meaningless：无意义 ban：违禁 bad_scene：不良场景 moan：娇喘 index Integer 当前处理的片段索引。 text String 当前内容片段中的文本内容，仅当type为text时存在。 start_position Integer 当前文本内容片段在输入中的起始位置，仅当type为text时存在。 end_position Integer 当前文本内容片段在输入中的结束位置，仅当type为text时存在。 image_url String 网页图片url，仅当type为image且文档格式为webpage时存在。 segments Array of segments objects 命中的风险片段信息列表，仅在有命中敏感词时才返回。 video_image_details Array of DocumentVideoImageDetail objects 网页视频中截帧部分审核详情。 audio_details Array of DocumentAudioDetail objects 网页视频中音频部分审核详情。表6 segments 参数参数类型描述 segment String 命中的敏感词。表7 DocumentVideoImageDetail 参数参数类型描述 time Float 截帧在视频文件中的时间，单位为秒。 suggestion String 截帧审核结果是否通过。 block：包含敏感信息，不通过 review：需要人工复检 ocr_text String 截帧检测出的文本。 label String 识别的详细标签。 segments Array of segments objects 命中的文本风险片段列表。表8 segments 参数参数类型描述 segment String 命中的风险片段。表9 DocumentAudioDetail 参数参数类型描述 start_time Float 音频片段开始时间。 end_time Float 音频片段结束时间。 suggestion String 音频片段审核处理建议。 block：包含敏感信息，不通过 review：需要人工复检 audio_text String 音频片段文本内容。 label String 音频片段标签。 segments Array of segments objects 命中的风险片段信息列表。表10 segments 参数参数类型描述 segment String 命中的风险片段。表11 request_params 参数参数类型描述 data data object 创建作业时传的data参数。 event_type String 创建作业时传的event_type参数。 image_categories Array of strings 创建作业时传的image_categories参数。 text_categories Array of strings 创建作业时传的text_categories参数。 video_image_categories Array of strings 创建作业时传的video_image_categories参数。 audio_categories Array of strings 创建作业时传的audio_categories参数。 callback String 创建作业时传的callback参数。表12 data 参数参数类型描述 url String 创建作业时传的url参数。目前支持：公网HTTP/HTTPS URL。 format String 创建作业时传的format参数。 frame_interval Integer 创建作业时传的frame_interval参数。状态码： 400 表13 响应Body参数参数参数类型描述 error_code String 调用失败时的错误码，具体请参见错误码。调用成功时无此字段。 error_msg String 调用失败时的错误信息。调用成功时无此字段。

内容审核 MODERATION 文档内容审核

内容审核 MODERATION-创建文档内容审核作业:请求示例

请求示例创建文档内容审核作业。 POST https://{endpoint}/v3/{project_id}/moderation/document/jobs { "data" : { "url" : "xxx", "format" : "pdf" }, "event_type" : "default", "image_categories" : [ "politics", "porn", "image_text", "terrorism" ], "text_categories" : [ "default" ], "callback" : "http://xxx" }

内容审核 MODERATION 文档内容审核

内容审核 MODERATION-创建文档内容审核作业:响应参数

响应参数状态码： 200 表5 响应Body参数参数参数类型描述 request_id String 本次请求的唯一标识，用于问题排查，建议保存。 job_id String 作业唯一标识。状态码： 400 表6 响应Body参数参数参数类型描述 error_code String 调用失败时的错误码，具体请参见错误码。调用成功时无此字段。 error_msg String 调用失败时的错误信息。调用成功时无此字段。

内容审核 MODERATION 文档内容审核

内容审核 MODERATION-创建文档内容审核作业:响应示例

响应示例状态码： 200 成功响应示例 { "job_id" : "01661356800_7c0fe871f80543358917e4faebca4a48", "request_id" : "07490f57ac5e034c077ab25b5f9e1da5" } 状态码： 400 失败响应示例 { "error_code" : "AIS.0401", "error_msg" : "The input parameter event_type is incorrect." }

内容审核 MODERATION 文档内容审核

内容审核 MODERATION-创建文档内容审核作业:请求参数

请求参数表2 请求Header参数参数是否必选参数类型描述 X-Auth-Token 是 String 用户Token。通过调用 IAM 服务获取用户Token接口获取（响应消息头中X-Subject-Token的值）。表3 请求Body参数参数是否必选参数类型描述 data 是 data object 文档数据输入。 event_type 是 String 事件类型，可选值如下： default：默认事件 liberal_arts_education：文科教育 sciences_education：理科教育 news：新闻 forums：论坛 novels：小说 image_categories 否 Array of strings 文档中图片需要检测的风险类型，不传或为空时表示不审核图片内容，可取值如下： porn：涉黄检测 terrorism: 暴恐检测 bad_scene: 不良场景检测 image_text: 图文检测 text_categories 否 Array of strings 文档中文本需要检测的风险类型，不传或为空时表示不审核文本内容，可取值为default，表示检测暴恐、违禁、色情、辱骂、广告等违规内容。 video_image_categories 否 Array of strings 网页视频中图片需要检测的风险类型，不传或为空时表示不审核网页视频内容，可取值如下： porn：涉黄检测 terrorism: 暴恐检测 bad_scene: 不良场景检测 image_text: 图文检测 audio_categories 否 Array of strings 网页视频中音频需要检测的风险类型，不传或为空时表示不审核网页视频中音频的内容，可取值如下： porn：涉黄检测 ad：广告检测 abuse：辱骂检测 moan：娇喘检测 callback 否 String 该字段非空时，检测结果会回调通知您的URL。该字段为空时，您需要定时轮询获取检测结果。说明：您的callback接口需要支持POST方法；回调数据格式，请参考查询文档内容审核作业的响应示例；您的服务端callback接口收到内容安全发送的结果后，如果在响应超时时间3秒内返回的HTTP状态码为200，则表示接收成功。其他HTTP状态码或响应时间大于3秒后返回状态码均视为接收失败，接收失败时，内容安全将重复发送多次检测结果。 seed 否 String 用于回调通知时校验请求是由华为云内容安全服务发起，您可以自定义。值为随机字符串，由英文字母、数字、下划线组成，不超过64个字符。说明：当seed非空时，headers中将包含X-Auth-Signature字段，字段的值使用HmacSHA256算法生成，待加密字符串由create_time、job_id、request_id、seed按照顺序拼接而成，密钥为seed。表4 data 参数是否必选参数类型描述 url 是 String 文档url。目前支持：公网HTTP/HTTPS URL。 format 是 String 文档格式。可选值： docx/pdf/doc/xls/xlsx/ppt/pptx/pps/ppsx/ xltx/xltm/xlsb/xlsm/txt/csv/epub/webpage，如果format与文档实际格式不一致，则返回结果会报参数错误。 frame_interval 否 Integer 当需要审核网页视频时，视频截帧频率间隔，单位为秒，取值范围为1~60s，如果不传递默认5s截帧一次。

内容审核 MODERATION 文档内容审核

云服务器内容精选

文档内容审核

7*24

备案

专业服务

退订

建议反馈

售前咨询热线