内容审核 MODERATION-华为云

内容审核 MODERATION-概述

概述内容审核（ Content Moderation ），是基于图像、文本、音频、视频、音频流档的检测技术，可自动检测涉黄、广告、涉暴等内容，对用户上传的图片、文字、音频、视频、音频流进行内容审核，帮助客户降低业务违规风险。内容审核以开放API（Application Programming Interface，应用程序编程接口）的方式提供给用户，用户通过调用API获取推理结果，帮助用户自动采集关键数据，打造智能化业务系统，提升业务效率。您可以使用本文档提供的内容审核服务API的描述、语法、参数说明及样例等内容，进行相关操作，所支持的全部操作请参见API概览。在调用内容审核API之前，请确保已经充分了解内容审核相关概念，详细信息请参见产品介绍。父主题：使用前必读

内容审核 MODERATION 使用前必读

内容审核 MODERATION-接口支持公告:常见问题

常见问题文档内容审核接口涉及哪些API？涉及到哪些Region？表1 文档内容审核接口详情 API名称 URI Region 创建文档审核任务 /v3/{project_id}/moderation/document/jobs 华北-北京四、华东-上海一查询文档审核结果 /v3/{project_id}/moderation/document/jobs/{job_id} 华北-北京四、华东-上海一文档内容审核接口停止服务后，正在使用该版本的用户有哪些影响？新用户与历史存量用户将不再支持调用文档审核接口。

内容审核 MODERATION

内容审核 MODERATION-版本支持公告:常见问题

常见问题内容审核（V2）版本包含哪些服务？哪些API？涉及到哪些Region？表1 内容审核（V2）版本服务详情服务名 API名称 URI Region 文本审核（V2）文本内容审核（V2） POST /v1.0/moderation/text POST /v2/{project_id}/moderation/text 华北-北京一、华北-北京四、华东-上海一图像审核（V2）图像内容审核（V2） POST /v1.0/moderation/image POST /v2/{project_id}/moderation/image 华北-北京一、华北-北京四、华东-上海一图像内容审核（批量）（V2） POST /v1.0/moderation/image/batch POST /v2/{project_id}/moderation/image/batch 华北-北京一、华北-北京四、华东-上海一图像内容审核（异步批量）（V2）- 任务提交 POST /v1.0/moderation/image/batch/jobs POST /v2/{project_id}/moderation/image/batch/jobs 华北-北京一、华北-北京四、华东-上海一图像内容审核（异步批量）（V2）- 处理结果查询 GET /v1.0/moderation/image/batch GET /v2/{project_id}/moderation/image/batch 华北-北京一、华北-北京四、华东-上海一图像内容审核（异步批量）（V2）- 任务列表查询 GET /v1.0/moderation/image/batch/jobs GET /v2/{project_id}/moderation/image/batch/jobs 华北-北京一、华北-北京四、华东-上海一短语音内容审核语音内容审核（V2） POST /v1.0/moderation/voice POST /v2/{project_id}/moderation/voice 华北-北京四扭曲矫正扭曲矫正 POST /v1.0/moderation/image/distortion-correct 华北-北京一、华北-北京四清晰度检测清晰度检测 POST /v1.0/moderation/image/clarity-detect 华北-北京一、华北-北京四内容审核（V2）版本停止服务后，正在使用该版本的用户有哪些影响？在内容审核（V2）版本 EOS时间后：新用户不再支持开通内容审核（V2）服务。历史存量用户仍然可以使用内容审核（V2）版本，但我们将停止内容审核（V2）版本的后续演进与更新，内容审核（V2）版本服务运行过程中出现错误，不再提供该版本的任何技术服务支持，请您尽快切换至新版本内容审核（V3）服务。切换至内容审核（V3）版本产品价格是否有影响？内容审核（V3）版本共包含文本审核、图像审核、音频审核、视频审核、音频流审核、视频流审核、文档内容审核7个服务，其中文本审核和图像审核与V2版本的文本审核、图像审核计费一致，其余服务均为V3版本的新服务，不涉及。如何对接内容审核（V3）版本？在内容审核资料页，根据内容审核（V3）版本的《API参考》资料适配对接。

内容审核 MODERATION

内容审核 MODERATION-内容审核SDK简介:内容审核概述

内容审核概述内容审核（Content Moderation），是基于图像、文本、音频、视频、音频流的检测技术，可自动检测涉黄、广告等内容，对用户上传的图片、文字进行内容审核，帮助客户降低业务违规风险。内容审核以开放API（Application Programming Interface，应用程序编程接口）的方式提供给用户，用户通过实时访问和调用API获取推理结果，帮助用户自动采集关键数据，打造智能化业务系统，提升业务效率。

内容审核 MODERATION

内容审核 MODERATION-开通服务:开通服务

开通服务内容审核服务申请开通您可以按照如下步骤操作：已注册华为账号，并完成实名认证。登录内容审核管理控制台，控制台左上角默认显示服务部署在“华北-北京四”区域，请您根据业务需要选择对应区域，服务部署的区域具体请参见终端节点。在左侧导航栏选择“总览”，进入总览页面，进行以下步骤操作：单击“申请开通服务”按钮，进入到新建工单页面。图1 服务管理页面在“我在Moderation遇到问题类型”分类中选择“服务开通”，进入到智能客服对话框中。图2 服务开通在对话框中输入“申请开通内容审核服务”，单击“下一步”。图3 转人工单击“未解决，提交工单”在对话框中智能客服将为您创建工单。等待客服审核完成后帮您开通本服务。服务只需要开通一次即可，后面使用时无需再申请。商用服务申请成功后，在“总览”页面中显示已经申请开通成功的服务，此时，您可以通过调用API的方式使用内容审核服务。

内容审核 MODERATION

内容审核 MODERATION-内容审核-文本:步骤五：Token认证鉴权

步骤五：Token认证鉴权 Token是用户的访问令牌，承载了用户的身份、权限等信息，用户调用API接口时，需要使用Token进行鉴权。在Postman左侧导航栏的“Collections”目录下，单击“get-token”配置文件。单击“Body”配置项。填写用户名、密码、账号名。用户名、密码、账号名的获取方法：登录管理控制台。鼠标移动至页面右上角的用户名，在下拉列表中单击“我的凭证”。复制 IAM 用户名、主账号至username、domainname参数处，并填写该IAM用户密码。图1 Token认证鉴权单击“Send”，发送请求，来获取并复制Token。获取返回结果“Headers”中的“X-Subject-Token”即为Token。Token有效期为24小时。图2 获取Token

内容审核 MODERATION

内容审核 MODERATION-内容审核-文本:步骤六：调用服务

步骤六：调用服务在Postman左侧导航栏的“Collections”目录下单击“Moderation_text”配置文件。单击“Headers”配置项，将获取的Token复制到“X-Auth-Token”值中。图3 填入Token 单击“Body”配置项，将待检测的文本填入到“text”参数中。关于body体中其他参数说明，请参考文本内容审核API。图4 修改参数单击“Send”，发送请求，获取调用结果。 { "request_id": "065561ff4bba1af6dd63a27c5c1371de", "result": { "details": [], "label": "normal", "suggestion": "pass" } }

内容审核 MODERATION

内容审核 MODERATION-内容审核-图像:步骤六：调用服务

步骤六：调用服务在Postman左侧导航栏的“Collections”目录下单击“Moderation_image”配置文件。单击“Headers”配置项，将获取的Token复制到“X-Auth-Token”值中。图3 填入Token 单击“Body”配置项，将获取的图片url填写到“url”参数中。关于body体中其他参数说明，请参考图像内容审核API。图4 修改参数单击“Send”，发送请求，获取调用结果。 { "request_id": "bcacaef5367b525620ec92531246af71", "result": { "details": [], "suggestion": "pass" } }

内容审核 MODERATION 调用API实现内容审核功能

内容审核 MODERATION-内容审核-图像:步骤五：Token认证鉴权

步骤五：Token认证鉴权 Token是用户的访问令牌，承载了用户的身份、权限等信息，用户调用API接口时，需要使用Token进行鉴权。在Postman左侧导航栏的“Collections”目录下，单击“get-token”配置文件。单击“Body”配置项。填写用户名、密码、账号名。用户名、密码、账号名的获取方法：登录管理控制台。鼠标移动至页面右上角的用户名，在下拉列表中单击“我的凭证”。复制IAM用户名、主账号至username、domainname参数处，并填写该IAM用户密码。图1 Token认证鉴权单击“Send”，发送请求，来获取并复制Token。获取返回结果“Headers”中的“X-Subject-Token”即为Token。Token有效期为24小时。图2 获取Token

内容审核 MODERATION 调用API实现内容审核功能

内容审核 MODERATION-内容审核-图像:步骤七：调用服务

步骤七：调用服务选择本地图片或者使用Demo默认图片，参考如下示例代码修改“ModerationImageContentDemo.java”文件中图片文件路径（“data/moderation-demo-1.jpg”）。 1 2 3 4 5 public static void main(String[] args) throws IOException { ModerationImageContentDemo tool = new ModerationImageContentDemo(); tool.imageContentCheck("https://sdk-obs-source-save.obs.cn-north-4.myhuaweicloud.com/terrorism.jpg"); byte[] imageBytes = FileUtils.readFileToByteArray(new File("data/moderation-demo-1.jpg")); tool.imageContentCheck(imageBytes); } 执行“ModerationImageContentDemo.java”文件，控制台输出200即表示程序执行成功，图像内容审核结果输出到控制台，如图4所示。图4 运行结果查看调用次数。您可以在“服务列表”，“图像审核”页查看调用详情和调用次数统计。如图5所示。图5 识别统计识别结果统计：显示一段时间范围，内容审核的调用总数，拒绝数，疑似数和通过数，帮助您更好了解服务的调用情况和审核情况。总数：指的是审核调用总次数。拒绝数：指的是block总数，即文本中包含敏感信息，审核不通过的次数。疑似数：指的是review总数，即人工复查审核的次数。通过数：指的是pass总数，即通过审核的次数。数据趋势：显示您设置的这段时间范围内，总数，拒绝数，疑似数和通过数的变化趋势。图6 原因分布拒绝数据原因分布：显示您设置的这段时间范围内，审核不通过的检测场景占比数。疑似数据原因分布：显示您设置的这段时间范围内，需要人工复查的检测场景占比数。

内容审核 MODERATION 调用SDK实现内容审核功能

内容审核 MODERATION-应用场景:内容审核-音频流

内容审核-音频流语音直播间语音直播间通过语音进行实时交流和互动，把音频流审核集成到语音直播平台以实现实时审核功能，实时判断出不合规的语音内容。场景优势：实时性：可以实时监测和分析直播间中的语音内容，保障直播间的秩序和安全。支持特殊声音识别：支持特殊声音识别模型，如娇喘、呻吟、敏感声纹等。社交语音消息在社交语音消息平台上实时对用户发送的语音消息进行审核，及时判断出包含不良内容的语音消息，帮助您根据审核结果进行相应的处理，如删除消息、禁言用户等。场景优势：准确率高：全面场景覆盖，避免误杀漏杀，实时防御风险。支持特殊声音识别：支持特殊声音识别模型，如娇喘、呻吟、敏感声纹等。在线教育根据教育内容和要求，您可以设置适当的审核规则，帮助您识别出含有敏感词、不当内容的音频，及时发现并处理不合规的内容。场景优势：审核效率高：减少人工审核的工作量，提高教学内容的准确性，避免出现错误或不当的言论。准确率高：过滤掉不良信息和不当言论，保证教学内容安全。

内容审核 MODERATION

内容审核 MODERATION-应用场景:内容审核-视频

内容审核-视频内容审核-视频有以下应用场景：视频平台/社区：精准识别平台上的违规视频内容，帮助平台规避内容风险： 360度全方位检测：提供多模态综合审核方案，对视频内容中的画面、声音、文字进行全方位解析。支持类型广：支持多种视频文件格式：AVI、FLV、MP4、MPG、WMV、MOV、RMVB、M3U8等视频聊天：精准识别和拦截社交/即时通讯场景下的色情、辱骂、暴恐、广告导流等违规内容： 360度全方位检测：提供多模态综合审核方案，对视频内容中的画面、声音、文字进行全方位解析。支持类型广：支持多种视频文件格式：AVI、FLV、MP4、MPG、WMV、MOV、RMVB、M3U8等在线教育：精准识别和拦截线上教学、互动、录播课程中的违规内容，保障用户尤其是未成年人的身心健康： 360度全方位检测：提供多模态综合审核方案，对视频内容中的画面、声音、文字进行全方位解析。支持类型广：支持多种视频文件格式：AVI、FLV、MP4、MPG、WMV、MOV、RMVB、M3U8等。

内容审核 MODERATION

内容审核 MODERATION-应用场景:内容审核-图像

内容审核-图像内容审核-图像有以下应用场景：视频直播在互动直播场景中，成千上万个房间并发直播，人工审核直播内容几乎不可能。基于图像审核能力，可对所有房间内容实时监控，识别可疑房间并进行预警。场景优势如下：准确率高：基于改进的深度学习算法，检测准确率高。响应速度快：视频直播响应速度小于0.1秒。在线商城智能审核商家/用户上传图像，高效识别并预警不合规图片，防止涉黄、涉暴类图像发布，降低人工审核成本和业务违规风险。场景优势如下：准确率高：基于改进的深度学习算法，检测准确率高。响应速度快：单张图像识别速度小于0.1秒。网站论坛不合规图片的识别和处理是用户原创内容（UGC）类网站的重点工作，基于内容审核，可以识别并预警用户上传的不合规图片，帮助客户快速定位处理，降低业务违规风险。场景优势如下：准确率高：基于改进的深度学习算法，检测准确率高。响应速度快：单张图像识别速度小于0.1秒。

内容审核 MODERATION

内容审核 MODERATION-应用场景:内容审核-文本

内容审核-文本内容审核-文本有以下应用场景：电商评论筛查审核电商网站产品评论，智能识别有色情等违规评论，保证良好用户体验。场景优势如下：准确率高：基于改进的深度学习算法，检测准确率高。响应速度快：响应速度小于0.1秒。注册昵称审核对网站的用户注册信息进行智能审核，过滤包含广告、反动、色情等内容的用户昵称。场景优势如下：准确率高：基于改进的深度学习算法，检测准确率高。响应速度快：响应速度小于0.1秒。媒资内容审核自动识别媒资中可能存在的违禁品等信息，避免已发布的文章存在违规风险。场景优势如下：快速迭代：持续快速的迭代文本词库，及时识别新型不合规内容。处理速度快：处理速度小于0.1秒。弹幕审核实时检测弹幕文本、保证网络直播间内容安全，降低业务违规风险。场景优势如下：海量词库：内置海量词库，支持各种匹配规则。快速迭代：持续快速的迭代文本词库，及时识别新型不合规内容。聊天内容实时审核实时检测游戏等文本聊天内容中可能出现的违规信息，避免辱骂、色情、反动等文本内容，净化网络环境。场景优势如下：海量词库：内置海量词库，支持各种匹配规则。响应速度快：响应速度小于0.1秒。

内容审核 MODERATION

内容审核 MODERATION-应用场景:内容审核-音频

内容审核-音频内容审核-音频有以下应用场景：在线教育监测在线教育中有声教学内容，智能审核音频中的涉黄、涉暴、辱骂、广告等违规场景。场景优势如下：准确率高：基于改进的深度学习算法，基于复杂环境语音审核准确率高。支持特殊声音识别：支持特殊声音识别模型，如娇喘、呻吟、敏感声纹等。游戏/社交语音监测游戏APP / 社交APP中的聊天内容以及语音动态，降低业务违规风险。场景优势如下：准确率高：基于改进的深度学习算法，基于复杂环境语音审核准确率高。支持特殊声音识别：支持特殊声音识别模型，如娇喘、呻吟、敏感声纹等。录播/电台语音监测内容传播类 / FM电台类音频数据，降低业务违规风险。场景优势如下：准确率高：基于改进的深度学习算法，基于复杂环境语音审核准确率高。支持特殊声音识别：支持特殊声音识别模型，如娇喘、呻吟、敏感声纹等。

内容审核 MODERATION

云服务器内容精选

内容审核 MODERATION

7*24

备案

专业服务

退订

建议反馈

售前咨询热线