检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
获取文本内容审核SDK示例代码。 登录API Explorer,在“代码示例”中选择“Python”。 图3 代码示例 填写请求Body参数:event_type(事件类型)和text(待检测文本)。 例如:event_type输入comment,text输入待检测文本。 图4
概述 内容审核(Content Moderation),是基于图像、文本、音频、视频、音频流、视频流、文档的检测技术,可自动检测涉黄、广告、涉暴等内容,对用户上传的图片、文字、音频、视频、音频流、视频流进行内容审核,帮助客户降低业务违规风险。 内容审核以开放API(Application
步骤二:对象存储服务OBS授权(可选),如果需要对OBS中的数据进行内容审核请开通对象存储服务OBS授权。 步骤三:配置策略(可选),可对文本、图像、音频和视频内容进行不同场景的检测。 步骤四:配置环境,把准备的配置文件导入到开发环境中。 步骤五:Token认证鉴权,用户调用API接口时,需要使用Token进行鉴权。
文本审核能直接上传word文件进行审核吗? 文本审核不支持word文件直接上传,只能通过调用API接口的方式,分析并识别用户上传的文本内容是否有敏感内容,并将识别结果返回给您。调用方法请参考《内容审核-文本入门》。 建议您先把word文件中字符串提取出来 ,然后分批、分字段调用服务的API接口,进行文本审核。
云容器引擎-成长地图 | 华为云 内容审核 内容审核(Content Moderation),基于图像、文本、视频审核技术,可自动进行涉黄、广告、涉暴等内容检测,帮助客户降低业务违规风险。 免费体验 立即使用 立即使用 成长地图 由浅入深,带您玩转Moderation 01 了解
授权完成后,不支持取消授权操作。 步骤三:配置策略(可选) 如果您需要对文本、图像、音频和视频内容进行不同场景的检测,可进行审核策略的配置。具体操作步骤请参考策略管理。 步骤四:配置环境 您可以基于内容审核SDK通过编写代码的方式调用内容审核-文本API。在使用SDK和调用API时您需要进行环境配置。具体操作步骤如下:
配置自定义词库(可选) 自定义白名单词库/自定义黑名单词库 使用文本内容审核服务,您可以配置自定义白名单词库或自定义黑名单词库,来帮助您过滤和检测指定文本内容。 配置自定义词库(可选) 调用API或SDK 在线调试 以文本内容审核为例,介绍如何使用API Explorer调试API。
内容审核服务使用简介 内容审核(Content Moderation),是基于图像、文本、音视频的检测技术,可自动检测涉黄、涉暴图文违规等内容,对用户上传的图片、文字、音视频进行内容审核,以满足上传要求,帮助客户降低业务违规风险。 内容审核以开放API(Application Programming
配置自定义词库(可选) 使用文本内容审核服务前,您可以配置自定义白名单词库或自定义黑名单词库,来帮助您过滤和检测指定文本内容。 配置自定义词库 V3请看具体操作。
text String 当前内容片段中的文本内容,仅当type为text时存在。 start_position Integer 当前文本内容片段在输入中的起始位置,仅当type为text时存在。 end_position Integer 当前文本内容片段在输入中的结束位置,仅当type为text时存在。
使用限制 文本内容审核(V3) 支持“华北-北京一、华北-北京四、华东-上海一”区域,新用户建议使用“华北-北京四”。 只支持中文文本内容审核。 待检测文本的编码格式为“utf-8”,限定10000个字符以内,文本长度超过10000个字符时,只检测前10000个字符。 默认API
配置自定义词库 V3 在使用文本审核/图像审核时,支持用户配置自定义白名单词库和自定义黑名单词库,来帮助客户过滤和检测指定文本内容。 音频审核/视频审核/音频流审核/视频流审核不支持配置自定义词库功能。 配置自定义词库后,需要用户自行维护。 背景信息 配置自定义词库需要先开通文本内容审核服务,详请参见申请服务。
您可以在内容审核服务管理控制台上查看服务审核详情和调用次数统计,帮助您更好了解服务的审核情况和调用情况。 该功能适用于文本/图像/音频/视频审核。 操作步骤 登录内容审核服务管理控制台。 在左侧导航栏中选择“内容审核 V3>识别统计>文本审核”,可以查看识别统计详情,如图1所示。您可以设置时间范围,策略(事件类型)来观察这段时间内的调用次数变化情况。
SDK获取和安装 JAVA版本,内容审核服务推荐您通过 Maven 安装依赖的方式使用华为云 Java SDK: 首先您需要在您的操作系统中 下载 并 安装Maven 。 安装配置完成后,输入命令“mvn -v”,显示如下图 Maven版本信息 表示成功。 Maven安装完成后,
服务API调用对并发有什么限制? 并发数是指某一时间段请求次数。 文本内容审核:默认API调用最大并发为50。 图像内容审核:默认API调用最大并发为10。 各服务更高并发需要,请提交工单联系专业工程师为您服务。 父主题: API使用类
内容审核服务所提供的API为自研API,包括文本审核、图像审核、音频审核、视频审核、音频流审核、视频流审核、文档审核。通过使用内容审核服务的自研API,您可以使用内容审核服务的接口功能。 文本审核 表1 文本审核接口说明 API 说明 文本内容审核 分析并识别用户上传的文本内容是否有敏感内容(如色情等),并将识别结果返回给用户。
catch(ex => { console.log("exception:" + JSON.stringify(ex)); }); 控制台输出创建文本内容审核作业的结果。 JSON.stringify(result)::{"request_id": "c083957284ce1f2c0b910115d8232ec6"
不良场景检测 image_text: 图文检测 text_categories 否 Array of strings 文档中文本需要检测的风险类型,不传或为空时表示不审核文本内容, 可取值为default,表示检测暴恐、违禁、色情、辱骂、广告等违规内容。 video_image_categories
内容等,帮助业务规避违规风险。 内容审核-文本 文本内容审核,采用人工智能文本检测技术有效识别涉黄、广告、辱骂、违禁品文本内容,提供定制化的文本敏感内容审核方案。 图1 文本内容审核示意图 内容审核-音频 基于领先的语音识别引擎、智能文本检测模型,精准识别出语音中涉黄、涉恐、辱骂等违规场景,极大提升产品用户体验。
内容审核SDK简介 内容审核概述 内容审核(Content Moderation),是基于图像、文本、音频、视频、音频流、视频流、文档的检测技术,可自动检测涉黄、广告等内容,对用户上传的图片、文字进行内容审核,帮助客户降低业务违规风险。 内容审核以开放API(Application