检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
内容审核(Content Moderation),是基于图像、文本、音频、视频、音频流、视频流、文档的检测技术,可自动检测涉黄、广告、涉暴等内容,对用户上传的图片、文字、音频、视频、音频流、视频流进行内容审核,帮助客户降低业务违规风险。 内容审核以开放API(Application Programming
内容审核(Content Moderation),是基于图像、文本、音频、视频、音频流、视频流、文档的检测技术,可自动检测涉黄、广告等内容,对用户上传的图片、文字进行内容审核,帮助客户降低业务违规风险。 内容审核以开放API(Application Programming Interface,
oudIDE,可完成代码的构建、调试、运行。 本章节以文本内容审核为例,介绍如何使用API Explorer调试API。 前提条件 已注册华为账号,并完成实名认证,账号不能处于欠费、冻结、被注销等异常状态。 了解文本内容审核约束限制。 已开通文本内容审核服务。 操作步骤 登录API
API 说明 文本内容审核 分析并识别用户上传的文本内容是否有敏感内容(如色情等),并将识别结果返回给用户。 图像审核 表2 图像审核接口说明 API 说明 图像内容审核 分析并识别用户上传的图像内容是否有敏感内容(如涉及暴恐元素、涉黄内容等),并将识别结果返回给用户。 音频审核 表3
息,用户调用API接口时,需要使用Token进行鉴权。 获取Token方法请参见认证鉴权。 imagePath 图片路径。支持图片文件路径或图片url路径。其中,图片的url路径支持公网http/https url或OBS提供的url。 父主题: 应用示例
图像审核 图像内容审核(V3) 父主题: SDK调用示例
图像审核 图像内容审核(V3) 父主题: SDK调用示例
图像审核 图像内容审核(V3) 父主题: SDK调用示例
图像审核 图像内容审核(V3) 父主题: SDK调用示例
图像审核 图像内容审核(V3) 父主题: SDK调用示例
图像审核 图像内容审核(V3) 父主题: SDK调用示例
forums:论坛 novels:小说 image_categories 否 Array of strings 文档中图片需要检测的风险类型,不传或为空时表示不审核图片内容, 可取值如下: porn:涉黄检测 terrorism: 暴恐检测 bad_scene: 不良场景检测 image_text:
SDK在本地进行开发,用户直接调用接口函数即可使用SDK功能。 其他审核功能及支持的SDK列表可参见内容审核SDK参考。 前提条件 已注册华为账号,并完成实名认证,账号不能处于欠费、冻结、被注销等异常状态。 了解文本内容审核约束限制。 已开通文本内容审核服务。 操作步骤 安装Python环境并获取SDK软件包。
登录内容审核服务管理控制台。 在左侧导航栏中选择“内容审核 V3>识别统计>文本审核”,可以查看识别统计详情,如图5所示。您可以设置时间范围,策略(事件类型)来观察这段时间内的调用次数变化情况。 图5 识别统计 识别结果统计:显示一段时间范围,内容审核的调用总数,拒绝数,疑似数和通
end_position Integer 当前文本内容片段在输入中的结束位置,仅当type为text时存在。 image_url String 网页图片url,仅当type为image且文档格式为webpage时存在。 segments Array of segments objects
例如:您的OBS请求数据在“华北-北京四”,只能调用“华北-北京四”区域下的内容审核服务,如果本服务不支持该区域则不能调用。 如果请求输入的数据是Base64图片或者公网URL,则不受区域影响。 例如:您的服务器在“华东-上海一”可以调用“华北-北京四”的内容审核服务接口。 内容审核服务暂不支持离线部署。
本内容审核结果输出到控制台,如图3所示。 图3 运行结果 查看调用次数。您可以在“内容审核 V3>识别统计>文本审核”页查看调用详情和调用次数统计,如图4所示。 图4 识别统计 识别结果统计:显示一段时间范围,内容审核的调用总数,拒绝数,疑似数和通过数,帮助您更好了解服务的调用情况和审核情况。
例如:您的OBS请求数据在“华北-北京四”,只能调用“华北-北京四”区域下的内容审核服务,如果本服务不支持该区域则不能调用。 如果请求输入的数据是Base64图片或者公网URL,则不受区域影响。 例如:您的服务器在“华东-上海一”可以调用“华北-北京四”的内容审核服务接口。
本服务仅面向企业用户开放,个人用户暂不支持开通。 注册华为账号 如果您已完成华为账号注册,可跳过该步骤。 登录华为云官方网站。 单击华为云官网右上角“注册”进入注册页面。 在注册页面,根据提示信息完成注册。具体操作可参见账号注册。 注册成功后即可自动登录华为云,您需要完成“实名认证”才可以正常使用服务。具体操作可参见实名认证。
本服务仅面向企业用户开放,个人用户暂不支持开通。 注册华为账号 如果您已完成华为账号注册,可跳过该步骤。 登录华为云官方网站。 单击华为云官网右上角“注册”进入注册页面。 在注册页面,根据提示信息完成注册。具体操作可参见账号注册。 注册成功后即可自动登录华为云,您需要完成“实名认证”才可以正常使用服务。具体操作可参见实名认证。