检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
策略管理 审核标准基于业务场景配置,方便您在不同业务场景下能够设置对应该场景的审核标准。 配置自定义业务场景后,当您在内容审核v3版本API的接口中传递参数biz_type,将按照您设置的自定义业务场景为标准进行审核。 背景信息 根据配置的策略,对涉暴、涉黄内容进行不同场景的检测。
版本支持公告 公告说明 华为云内容审核计划于2024年5月30 00:00(北京时间)将内容审核(V2)版本(具体服务列表见下文常见问题中的服务列表)停止服务(EOS)。 影响 内容审核(V2)版本停止服务(EOS)后,不再提供该版本的任何技术服务支持,包括但不限于流控调整、服务
术,可自动检测涉黄、涉暴、图文违规等内容,用户通过调用API对上传的图片、文字、音视频进行内容审核,获取推理结果,帮助用户打造智能化业务系统提升业务效率。 使用本服务的操作流程如下所示: 图1 使用流程 表1 使用流程说明 流程 子任务 说明 详细指导 准备工作 注册华为账号并实名认证
内容审核为用户提供图像、文本和视频审核能力,帮助客户减少业务违规风险。 开通服务 开通服务步骤说明 开发初学者 调用API实现内容审核功能 开发工程师 调用SDK实现内容审核功能 05 API 用户通过调用内容审核API获取结果,帮助用户自动采集关键数据,打造智能化业务系统,提升业务效率。 API文档 文本内容审核
进行内容审核,帮助客户降低业务违规风险。 内容审核以开放API(Application Programming Interface,应用程序编程接口)的方式提供给用户,用户通过调用API获取推理结果,帮助用户自动采集关键数据,打造智能化业务系统,提升业务效率。 您可以使用本文档提
审核,以满足上传要求,帮助客户降低业务违规风险。 内容审核以开放API(Application Programming Interface,应用程序编程接口)的方式提供给用户,用户通过调用API获取推理结果,帮助用户打造智能化业务系统,提升业务效率。目前内容审核包括内容审核-图像、内容审核-文本。
容审核,帮助客户降低业务违规风险。 内容审核以开放API(Application Programming Interface,应用程序编程接口)的方式提供给用户,用户通过实时访问和调用API获取推理结果,帮助用户自动采集关键数据,打造智能化业务系统,提升业务效率。 SDK概述 内容审核软件开发工具包(Content
n SDK)是对内容审核提供的REST API进行的封装,以简化用户的开发工作。用户通过添加依赖或下载的方式调用API即可实现使用内容审核业务能力的目的。 本章节以文本内容审核为例,介绍如何使用Moderation Python SDK在本地进行开发,用户直接调用接口函数即可使用SDK功能。
Interface,应用程序编程接口)的方式提供给用户,用户通过调用API获取推理结果,帮助用户打造智能化业务系统,提升业务效率。 内容审核-图像 图像内容审核,利用深度神经网络模型对图片内容进行检测,准确识别图像中的暴恐元素、涉黄内容等,帮助业务规避违规风险。 内容审核-文本 文本内容审核,采用人工智能文本检测技术
内容审核服务申请开通您可以按照如下步骤操作: 已注册华为账号,并完成实名认证。 登录内容审核管理控制台,控制台左上角默认显示服务部署在“华北-北京四”区域,请您根据业务需要选择对应区域,服务部署的区域具体请参见终端节点。 在左侧导航栏选择“服务管理”,进入服务管理页面,进行以下步骤操作: 单击“申请开通服务”按钮,进入到新建工单页面。
用考虑不同区域造成的网络时延问题。 在除中国大陆以外的亚太地区有业务的用户,可以选择“中国-香港”、“亚太-曼谷”或“亚太-新加坡”区域。 在非洲地区有业务的用户,可以选择“南非-约翰内斯堡”区域。 在欧洲地区有业务的用户,可以选择“欧洲-巴黎”区域。 云服务之间的关系 如果多个云服务一起搭配使用,需要注意:
社交APP中的聊天内容以及语音动态,降低业务违规风险。 场景优势如下: 准确率高:基于改进的深度学习算法,基于复杂环境语音审核准确率高。 支持特殊声音识别:支持特殊声音识别模型,如娇喘、呻吟、敏感声纹等。 录播/电台语音 监测内容传播类 / FM电台类音频数据,降低业务违规风险。 场景优势如下:
期实践,经受过复杂场景考验。 简单高效 提供RESTful规范的API接口,以及服务SDK,方便客户使用与集成;帮助客户减少人力成本,节省业务支出。
import okhttp3.RequestBody; import okhttp3.Response; /** * 此demo仅供测试使用,强烈建议使用SDK * 使用前请添加上方的okhttp3依赖 */ public class TextModerationDemo
import okhttp3.RequestBody; import okhttp3.Response; /** * 此demo仅供测试使用,强烈建议使用SDK * 使用前请添加上方的okhttp3依赖 */ public class ImageModerationDemo
内容审核服务申请开通您可以按照如下步骤操作: 已注册华为账号,并完成实名认证。 登录内容审核管理控制台,控制台左上角默认显示服务部署在“华北-北京四”区域,请您根据业务需要选择对应区域,服务部署的区域具体请参见终端节点。 在左侧导航栏选择“服务管理”,进入服务管理页面,进行以下步骤操作: 单击“申请开通服务”按钮,进入到新建工单页面。
group_message:群聊图片 message:私聊图片 product:商品图片 说明: 群聊图片是指多人聊天的图片。 事件类型是服务提前预置的业务场景(部分场景下存在未拦截情况)。 如果您需要开启自定义审核策略,可以通过在控制台上自行添加自定义策略。 如果您有特殊的审核需求,如果工单的方式联系我们进行调整。
状态码 状态码 编码 状态说明 100 Continue 继续请求。 这个临时响应用来通知客户端,它的部分请求已经被服务器接收,且仍未被拒绝。 101 Switching Protocols 切换协议。只能切换到更高级的协议。 例如,切换到HTTPS的新版本协议。 200 OK 服务器已成功处理了请求。
使用服务 内容审核提供了Web化的服务管理平台,即管理控制台,以及基于HTTPS请求的API管理方式。 您可以在管理控制台申请开通内容审核服务、查看服务的调用成功和失败次数。 内容审核以开放API的方式提供给用户,用户可以将内容审核集成到第三方系统调用API。 具体流程如下: 申请服务
基本概念 账号 用户注册华为云时的账号,账号对其所拥有的资源及云服务具有完全的访问权限,可以重置用户密码、分配用户权限等。由于账号是付费主体,为了确保账号安全,建议您不要直接使用账号进行日常管理工作,而是创建用户并使用他们进行日常管理工作。 用户 由账号在IAM中创建的用户,是云