检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
文本内容审核怎么自定义检测场景？ 使用文本内容审核时，您可以配置自定义词库来过滤和检测指定文本内容。当前仅支持中文内容审核。 自定义白名单词库配置 进行白名单词库配置，可以不检测白名单词库中配置的内容。 自定义黑名单词库 黑名单词库的名称指定给glossary_names就是设置自定义的场景。
音中涉黄、涉恐、辱骂等违规场景，极大提升产品用户体验。 内容审核-视频 基于先进的人工智能技术综合检测视频画面、声音、字幕等，精准高效识别各类涉黄、涉暴、广告等违规内容，提高平台内容治理质量和效率。 内容审核-音频流 精准识别多场景下色情、辱骂、广告等违规内容，防御内容风险，提高音频流的审核效率，提升用户体验。
message：私聊视频 live：秀场直播 dynamic：动态 image_categories 否 Array of strings 视频中画面需要检测的风险类型，列表不能为空。 terrorism：暴恐内容的检测 porn：鉴黄内容的检测 image_text：图文违规内容的检测（检测图片中
行内容审核，帮助客户降低业务违规风险。 内容审核以开放API（Application Programming Interface，应用程序编程接口）的方式提供给用户，用户通过实时访问和调用API获取推理结果，帮助用户自动采集关键数据，打造智能化业务系统，提升业务效率。 SDK概述
内容审核（Content Moderation），是基于图像、文本、音视频的检测技术，可自动检测涉黄、涉暴图文违规等内容，对用户上传的图片、文字、音视频进行内容审核，以满足上传要求，帮助客户降低业务违规风险。 内容审核以开放API（Application Programming Interfac
事件类型，可选值如下： default：默认事件 audiobook：有声书 education：教育音频 game：游戏语音房 live：秀场直播 ecommerce：电商直播 voiceroom：交友语音房 private：私密语音聊天 categories 是 Array of strings
产品优势 检测准确 基于深度学习技术和大量的样本库，帮助客户快速准确进行违规内容检测，维护内容安全。 功能丰富 提供文本、图像、音频、视频等内容检测，覆盖涉黄、广告、涉暴等多种违规风险的内容检测。 稳定可靠 内容审核服务已成功应用于各类场景，基于华为等企业客户的长期实践，经受过复杂场景考验。
事件类型，可选值如下： default：默认事件 audiobook：有声书 education：教育音频 game：游戏语音房 live：秀场直播 ecommerce：电商直播 voiceroom：交友语音房 private：私密语音聊天 categories 否 Array of strings 需要检测的风险类型，列表不能为空。
可选择的风险类型如下： porn：鉴黄内容的检测 terrorism：暴恐内容的检测 image_text：图文违规内容的检测（检测图片中出现的广告、色情、暴恐的文字违规内容以及二维码内容） audio_categories 否 Array of strings 视频流中音频需要检
内容审核-图像有以下应用场景： 视频直播 在互动直播场景中，成千上万个房间并发直播，人工审核直播内容几乎不可能。基于图像审核能力，可对所有房间内容实时监控，识别可疑房间并进行预警。 场景优势如下： 准确率高：基于改进的深度学习算法，检测准确率高。 响应速度快：视频直播响应速度小于0.1秒。 在线商城
HUAWEICLOUD_SDK_AK和HUAWEICLOUD_SDK_SK。 ak = os.getenv("HUAWEICLOUD_SDK_AK") sk = os.getenv("HUAWEICLOUD_SDK_SK") credentials =
strings 文档中文本需要检测的风险类型，不传或为空时表示不审核文本内容， 可取值为default，表示检测暴恐、违禁、色情、辱骂、广告等违规内容。 video_image_categories 否 Array of strings 网页视频中图片需要检测的风险类型，不传或为空时表示不审核网页视频内容，
进行涉黄、广告、涉暴等内容检测，帮助客户降低业务违规风险。 免费体验 立即使用 立即使用 成长地图 由浅入深，带您玩转Moderation 01 了解 内容审核（Content Moderation），可自动检测涉黄、广告、涉暴等内容，帮助客户降低业务违规风险。 产品介绍 什么是内容审核
Moderation），是基于图像、文本、音频、视频的检测技术，可自动检测涉黄、涉暴、图文违规等内容，用户通过调用API对上传的图片、文字、音视频进行内容审核，获取推理结果，帮助用户打造智能化业务系统提升业务效率。 使用本服务的操作流程如下所示： 图1 使用流程 表1 使用流程说明 流程
流进行内容审核，帮助客户降低业务违规风险。 内容审核以开放API（Application Programming Interface，应用程序编程接口）的方式提供给用户，用户通过调用API获取推理结果，帮助用户自动采集关键数据，打造智能化业务系统，提升业务效率。 您可以使用本文档
图片如果传base64字符串时，编码后大小不超过10MB（原图像不超过7.5MB）；如果传url时，图片大小不超过10MB。 目前支持暴恐元素、涉黄内容检测、广告检测。 默认API调用最大并发为10（表示1秒内最多请求10次），如需调整更高并发限制请通过工单联系专业工程师为您服务。 音频内容审核
策略管理 在“创建策略”页面填写如下参数： bizType名称：为创建的策略规则定义名称，调用接口时需要传入该名称。 使用行业模板：是否使用系统默认的机审标准策略。 从现有模板导入：可导入您已经创建过的策略标准。 描述：为当前策略添加说明（可不填写）。 图2 创建策略 策略名称要求
您可以在管理控制台申请开通内容审核服务、查看服务的调用成功次数。 内容审核以开放API的方式提供给用户，用户可以将内容审核集成到第三方系统调用API。 具体流程如下： 申请服务 用户可通过管理控制台申请服务，申请服务的具体操作步骤请参见”申请服务”章节。 服务只需要开通一次即可，后面使用时无需再申请。
配置Java环境变量：右键“计算机 >属性 >高级系统设置 >环境变量”，进行如下操作。 新建系统变量JAVA_HOME，变量值为实际JDK安装位置。 在Path中添加“%JAVA_HOME%\bin;%JAVA_HOME%\jre\bin” （注意用英文分号分隔）。 新建系统变量CLASSPATH，变
在窗口中填写参数后单击“确定”，完成词库的创建。 名称：长度小于50个字符，只能包含字母、数字、中划线和下划线。 处理建议：有“通过、违规、疑似”三种选择，选择“通过”则为白名单词库，选择“违规、疑似”则为黑名单词库。 使用场景：选择需要的使用场景，目前包括（暴恐、色情、违禁、辱骂、广告、自定义、正常）。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
