[快速入门]什么是内容审核
内容审核-文本

使用SDK快速体验示例 帮助文档 技术文档 内容审核-文本服务产品介绍 常见问题 有哪些途径使用内容审核-文本服务API? 开发工具 内容审核-文本服务SDK 新特性 相关产品 图像内容审核 结果准、范围广、效率高、稳定可靠 音视频内容审核 简单易用、审核准确、多模态分析 图像识别

内容审核-视频

,提升审核效率 支持从语音、图像、文本等多维度审核视频,智能检测出涉黄、涉暴等内容,提升审核效率 应用场景 视频内容审核 音频内容审核 视频内容审核 视频内容审核 为各类视频平台提供视频中涉黄、涉恐、涉暴内容自动审核,有效遏制风险与释放审核人力,提升效率 优势 多模态审核 支持同时对视频字幕、声音与画面多维度智能核查

内容审核-图像

基于大规模GPU集群,快速识别敏感信息 建议搭配使用 对象存储服务 OBS 网站论坛 网站论坛 不合规图片的识别和处理用户原创内容(UGC)类网站的重点工作,基于内容审核,可以识别并预警用户上传的不合规图片,帮助客户快速定位处理,降低业务违规风险 优势 准确率高 基于改进的深度学习算法,检测准确率高

昇腾云服务

实现大规模分布式训练,支撑PB级数据训练。 算力升级: 快速供应,支撑昇腾云算力升级,加速客户算法迭代。 内容审核 内容审核昇腾云服务方案 深入业务场景,提供完备成熟的内容审核/CV场景快速昇腾迁移的方案,高效解决业务内容审核的算力/国产化需求,助力企业业务稳健发展 快速迁移评估: 昇腾迁移工具链快速提供

ModelArts Lite

IGC、内容审核等领域广泛得到应用 基于软硬件深度结合、垂直优化,构建开放兼容、极致性价比、长稳可靠、超大规模的云原生AI算力集群,提供一站式开通、网络互联、高性能存储、集群管理等能力,满足AI高性能计算等场景需求。目前其已在大模型训练推理、自动驾驶、AIGC、内容审核等领域广泛得到应用

数据工坊

数据工坊 DWR 数据工坊 DWR 数据工坊DWR开放的近数据处理服务。支持易用的工作流编排和开放生态的数据处理算子市场,能够实现灵活的数据及时处理。 数据工坊DWR开放的近数据处理服务。支持易用的工作流编排和开放生态的数据处理算子市场,能够实现灵活的数据及时处理。 管理控制台

向量数据库

打造中立、可信、责任共担、安全的云服务 多种产品规格,满足您对成本、性能及技术创新的诉求 多种产品规格,满足您对成本、性能及技术创新的诉求 经济集群 性能集群 为什么选择CSS 向量数据库 华为向量检索性能第一 华为向量检索性能第一 高性能:ann-benchmarks打榜第一。 云原生:云上深耕超3年

内容分发网络 CDN-入门

好的体验。通过CDN加速ECS资源,这样构造的业务系统可以在降低成本的同时,提高终端用户使用感受。 如何设置缓存过期时间 CDN加速的本质缓存加速,把源站资源缓存在遍布全球的节点上,用户可以就近从边缘节点获取资源,从而达到加速的效果。可以根据业务情况设置源站资源在节点上缓存的时间,更好的加速网站资源。

智能边缘云

自建CDN 互动直播 互动直播 互动直播场景将音视频转码、弹幕分发、内容审核等处理能力部署在边缘站点,可以显著提升业务处理质量,优化响应效率,降低流量成本。 优势 多样算力 提供GPU、AI等多样化算力,提升高清转码、内容审核等场景处理的性价比 流量本地化 优化直播弹幕等大流量业务的成本

[相关产品]什么是内容审核
短视频审核-图像内容审核-短视频内容审核

文本审核、内容审核、文字过滤、评论检测、信息筛选、信息审核、实人认证、实名核验、身份认证、身份核实、实名注册、手机验证、手机状态、卡号审核、卡号验证、汽车维修、车辆保险、企业查询、企业验证、快递查询、天气详情、条码查验、自动开票、短链生成 等环节。短视频内容检测,视频内容审核,可过滤文字

图像内容审核 图片内容检测 图片文字审核

【图像内容审核 违禁识别 图片安全检测】图像基础审核接口,采用前沿的图像识别、图像检索等算法结合海量的违规图像数据进行训练建模, 多种维度过滤敏感图像内容,包括违禁、广告等,同时能审核图片所包含文字内容是否违规。—— 我们只做精品!一、产品介绍 :【图像内容审核 违禁识别 图片安

文本审核

【 文本审核 文本内容审核】提供对负面词语的识别审核能力,可用于用户评论过滤、注册信息筛选、文章内容审核等场景。—— 我们只做精品!一、产品介绍 :【 文本审核 文本内容审核】提供对负面词语的识别审核能力,可用于用户评论过滤、注册信息筛选、文章内容审核等场景。—— 我们只做精品! 二、更多产品:更多商品请点击链接

广告敏感词过滤-文本审核

筛选、文章内容审核等场景。采用权威违禁词库,包含海量历史数据,及持续更新能力。—— 我们只做精品!一、产品介绍 :【广告敏感词过滤 文本审核 违禁词检测 广告违规词审核】提供对广告违规词语及广告监管要求封禁词语的识别审核能力,可用于广告词过滤、注册信息筛选、文章内容审核等场景。采

音频审核

提供音频的违规内容审核服务提供人审服务

AladdinSite 企业Web应用工厂软件

AladdinSite企业Web应用工厂软件一款专注于企业级Web应用工厂的门户构建及内容发布管理软件。它支持敏捷创建与管理Web站点,灵活集成业务数据,迅速打造高效的企业级Web应用门户,助力企业实现数字化转型,提升业务效率。商品说明:AladdinSite企业Web应用工厂软件一款专注于企业级We

文本审核-敏感词过滤-文本内容检测-文字违规违禁词过滤

【感受科技的温度】文本审核-敏感词过滤-文本内容检测 —— 提供对敏感文字、违规词语及监管要求封禁词语的识别审核能力,可用于用户评论过滤、注册信息筛选、文章内容审核等场景。采用权威违禁词库,包含海量历史数据,及持续更新能力。【怜花数科】1、产品简介:→【感受科技的温度】文本审核-敏感词过滤-文本内容

人工智能审核系统

1)设置管理 设置系统运行以及匹配各地区使用的必要设置。如邮件服务器、短信服务器等。 2)审核管理 主要实现报名照片的图像审核、考生信息内容审核整个系统的核心功能。包括:自动审核、人工审核以及审核条件设置等。 3)导出管理 主要包括导出考生审核结果和考生审核照片。 4)统计管理

EDI许可证代理服务

在线数据处理与交易业务,利用各种与公用通信网相连的数据与交易事务处理应用平台,通过公用通信网互联网为用户提供在线数据处理和交易/事物处理的业务牌照,简称EDI什么edi许可证在线数据处理与交易业务,利用各种与公用通信网相连的数据与交易事务处理应用平台,通过公用通信网互联网为

[相似文章]什么是内容审核
华为云内容审核服务_内容审核有什么作用_华为云内容审核的优势

ModelArts推理部署_OBS导入_模型包规范-华为云 什么跨源连接-数据湖探索DLI跨源连接 什么数据湖探索服务_数据湖探索DLI用途与特点 什么Spark SQL作业_数据湖探索DLISpark SQL作业 什么弹性资源池_数据湖探索DLI弹性资源池 什么Flink OpenSource SQL_数据湖探索_Flink

什么是OBS

I、SDK。 什么OBS对象(Object) 对象(Object)OBS中数据存储的基本单位,一个对象实际一个文件的数据与其相关属性信息(元数据)的集合体。用户上传至OBS的数据都以对象的形式保存在桶中。 什么OBS桶(Bucket) 桶(Bucket)OBS中存储对象

什么是CDN产品_什么是CDN_CDN有什么用

什么CDN产品 什么CDN产品 内容分发网络 CDN 内容分发网络 CDN CDN产品通过将源站内容分发至靠近用户的加速节点,使用户可以就近获得所需的内容,解决Internet网络拥挤的状况,提高用户访问的响应速度和成功率,从而提升您业务的使用体验。 CDN产品通过将源站

什么是PLM_PLM是做什么的_半导体PLM

商业智能与大数据分析软件镜像。 CAXA PLM协同管理软件实施服务的服务商哪家公司? CAXA PLM协同管理软件实施服务的服务商北京数码大方科技股份有限公司。 介绍一下CAXA PLM协同管理软件实施服务的服务商。 数码大方中国领先的工业软件和工业云服务公司,提供CAXA PLM协同管

什么是结账-什么是期末结转-好会计中如何操作

好会计:结账 好会计:结账 好会计:结账,把一定时期内发生的全部经济业务登记入账的基础上,计算并记录本期发生额和期末余额后,将余额结转下期或新的账簿的会计行为。会计基础中的结转,或期末结转,指期末结账时将某一账户的余额或差额转入另一账户。这里涉及两个账户,前者时转出账户,后者时

什么是虚拟主机

录Windows虚拟主机、登录Linux虚拟主机、常用操作、网络安全、虚拟主机运维与监控等指导。 什么虚拟主机 弹性云服务器(Elastic Cloud Server,ECS)由CPU、内存、操作系统、云硬盘组成的基础的计算组件。弹性云服务器创建成功后,您就可以像使用自己的本

什么是BPM_BPM是干嘛的_心电图BPM什么意思

什么BPM 什么BPM EBPM平台支持企业管理体系(战略、流程、制度、风控、绩效等)数字化转型的专业软件,固化博阳基于要素的流程管理方法论,以实现体系设计、体系执行、体系治理和优化的全生命周期管理。 EBPM平台支持企业管理体系(战略、流程、制度、风控、绩效等)数字化转

MES实施_四川 MES_什么是MES什么是ERP

。MES一个可自定义的制造管理系统,不同企业的工艺流程和管理需求可以通过现场定义实现。 什么MES? 制造执行系统(MES) 一整套软件解决方案组合,这些解决方案可主动得到系统化的实施,并能确保提升制造流程的质量和效率。 MES有何作用? 制造执行系统(MES) 一种软件

MapReduce服务_什么是MapReduce服务_什么是HBase

CS 什么云计算_云计算介绍_云计算技术 云日志服务有什么好处_为什么选择云日志服务_云日志服务LTS 云容器引擎_CCE什么意思_国内容器云 华为CCE怎么用_华为云CCE如何使用_容器引擎使用 共享带宽多少钱_共享带宽是什么_共享带宽怎么用 什么EIP_EIP有什么线路类型_如何访问EIP

什么是内容审核

本示例通过使用AstroZero的工作流功能,带您快速创建一个简易版的出差审批应用。

通过创建出差审批应用,您可以初步了解轻应用的基本概念并体验“工作流”的能力。

工作流即业务流程管理,是AstroZero的核心功能之一,工作流是一种可视化的流程编排。如果需了解更多工作流内容,请参见什么是工作流

场景说明

本示例主要针对员工出差场景,即员工在出差前需要提交一个出差申请审批的电子流程,员工提交出差申请后,主管处理审批或拒绝提交人申请。

本示例中的出差审批应用主要包括如下功能:

  • 基于工作流模板创建出差电子流。
  • 发送邮件。
图1 出差审批应用最终效果图

开发流程

在AstroZero中开发出差审批应用流程,如图2所示。

图2 出差审批应用开发流程

前提条件

  • 已注册华为账号并开通华为云,且已完成实名认证。

    实名认证分为企业认证和个人认证,两种认证方式均支持新增子账号。如何申请实名认证,请参见实名认证

  • 使用已注册的华为账号,申请开通免费试用AstroZero。

    如何注册并申请试用AstroZero,请参见申请免费试用。本示例中的开发操作均是使用华为账号进行的,子账号(主管、员工)仅在业务功能调测时使用。

步骤1:添加子账号并进行授权

添加子账号的目的是为了给应用添加不同角色的业务用户,本示例中的应用包括主管和员工两种角色的业务用户。创建出差审批应用前,需要将员工、主管子账号添加到AstroZero中。

  1. 统一身份认证 服务 IAM 中创建两个子账号(主管和员工)。

    1. 以华为账号登录华为云网站,在顶部导航栏右侧单击“控制台”,进入华为云控制台。
    2. 在左侧导航栏上方,单击,选择服务实例所在的区域项目。
    3. 单击,在查找框中搜索“统一身份认证服务”,单击查找到的结果,进入IAM服务控制台。

      您也可以选择“管理与监管 > 统一身份认证服务 IAM”,进入IAM服务控制台。

    4. 在“用户”中,单击“创建用户”,创建主管、员工两个用户。

      如何创建用户,请参见创建IAM用户。假设,本示例创建主管用户为Helen、员工用户为Mike。

  2. 在AstroZero中添加子账号并授权。

    1. 以华为账号登录华为云。
    2. 单击,在查找框中搜索“Astro轻应用”,单击查找的结果,进入AstroZero服务控制台。
    3. 在实例页面,单击“进入首页”。
    4. 在页面左上角,单击,选择“开发环境管理 > 环境配置”,进入AstroZero开发环境的环境配置。
      图3 进入AstroZero开发环境的环境配置
    5. 在左侧导航栏中,选择“用户安全 > 用户”,单击“添加IAM用户”。
    6. 在全部用户列表中,选择1中创建的子账号,单击“下一步”。
      图4 选择待添加的子账号
    7. 赋予主管和员工System Administrator Profile权限,单击“保存”。

      System Administrator Profile为系统管理员权限,拥有这个权限的用户拥有AstroZero全部权限。在实际的出差审批应用中,只需赋予业务用户Portal User ProfileAnonymous User Profile权限即可。此处为了验证出差审批应用的功能,赋予业务用户(员工Mike、主管Helen)System Administrator Profile权限。如何给业务用户授权,请参见配置业务用户

      图5 给子账号授权

步骤2:创建队列

队列是AstroZero中的一种成员集,即在实际业务场景中,用来记录一类具有相同权限和任务对象的成员集。

本示例中应用需要使用到表1中2个队列,用于在工作流中区分不同角色在流程中处理的任务。

表1 队列信息

名称

说明

Employee

员工队列,添加的队列成员为普通员工,如Mike。

Manager

主管队列(负责一级审批),添加的队列成员为主管,如Helen。

  1. 以华为账号登录AstroZero环境配置。
  2. 在主菜单中 ,选择“维护”
  3. 在左侧导航栏中,选择“全局元素 > 队列”。
  4. 在队列页面,单击“新建”,创建表1中的Employee队列。

    1. 在新建队列基本信息中,设置队列标签和名称,其他参数保持默认。
      • 标签:新建队列的标签,用于在AstroZero界面上显示。本示例配置为Employee。
      • 名称:新建队列的名称,AstroZero系统中的唯一标识。本示例配置为Employee。
    2. 在队列成员中,单击“添加”,为Employee工作队列添加Mike及当前租户账号为成员。
      图6 添加Mike成员
    3. 单击“保存”,进入队列详情页面。

      在Employee队列详情页面,可以查看新建队列的信息。如果创建队列时未添加成员,在成员信息中单击“添加”,可为队列添加成员。

  5. 参照4中操作,创建Manager队列。

    图7 设置标签和名称
    图8 为队列添加Helen成员及租户账号

步骤3:创建空白轻应用

创建应用是在AstroZero开发环境开发项目的第一步,也是端到端构建软件应用的入口。此处创建一个空白轻应用的目的是在应用的Logic目录下创建BPM。

  1. 以华为账号登录AstroZero服务控制台。
  2. 在实例列表中,单击“进入首页”,进入应用开发页面。
  3. 在左侧导航栏中,单击“应用”,进入低代码应用页面。
  4. 单击新建空白应用后的,进入新建空白应用页面。

    图9 进入创建轻应用入口

  5. 设置应用标签和名称,此处均设置为BTA。

    图10 设置轻应用标签和名称

    图10名称前模糊掉的内容为命名空间,在AstroZero中为了避免不同租户间数据的重名,租户在首次创建应用时需要先定义一个命名空间。一个租户只能创建一个命名空间,创建后不支持修改,请谨慎定义。

  6. 单击“新建”,进入BTA新版应用设计器。

    图11 BTA新版应用设计器

步骤4:创建工作流

基于工作流HR类流程模板,创建工作流,并设置各泳道责任人。

  1. 创建工作流。

    1. 在BTA新版应用设计器,选择“流程”
    2. 单击工作流后的,进入新建工作流页面。
    3. 在添加工作流页面,单击“基于模板”,设置标签、名称和描述信息。
      图12 添加工作流
    4. 单击“选择模板”,选择“HR”中的“出差申请”模板后,单击“创建”。
      图13 选择出差申请模板

  2. 设置工作流,配置各泳道处理人。

    在进行工作流设计前,请先参照初识工作流中内容对工作流设计界面进行全面的了解。

    1. 在工作流开发页面,单击“Process Owner”泳道,配置工作队列为“Employee”。
      图14 配置员工为申请人
    2. 单击“Reviewer”泳道,配置工作队列为“Manager”。
      图15 配置主管为审批人
    3. 单击泳道“Process Owner”上的“重新填写请求”用户任务元素,设置任务标题为“待重新提交”。

      执行该操作的目的是,后续在“我的待办”中可以看到“待重新提交”的任务状态。

      图16 配置为待重新提交
    4. 单击泳道“Reviewer”上的“申请审批”用户任务元素,设置任务标题为“待主管审批”。

      执行此操作的目的是,后续在“我的待办”中可以看到“待主管审批”的任务状态。

      图17 配置为待主管审批
    5. 单击,保存工作流。
    6. 单击,启用工作流。

步骤5:配置BTA应用

在应用配置中,定义出差审批应用的导航菜单栏。

  1. 在BTA新版应用设计器的“开始”页面,单击底部的“应用导航设置”。

    图18 进入应用配置

  2. 在“主导航设置”页签,单击“Home”,将“菜单名称”设置为“我的待办”。

    图19 编辑页签

  3. 在主导航设置中,单击“新建”,新建我要出差页签。

    图20 添加我要出差页签
    图21 导航条最终效果

  4. 在BTA新版应用设计器主菜单中,单击“运行 > 立即运行”,可预览出差审批应用。

    图22 出差审批应用效果图

    到此,您已完成出差审批应用的开发。

    思考:如何将导航栏菜单在出差审批应用顶部显示?

    在应用配置页面的“外观设置”中,可以修改菜单样式、应用图标等。

    图23 修改菜单样式、应用图标
    图24 设置后效果

步骤6:业务功能调测

出差审批测试流程:员工提交出差申请,主管对申请进行审批,分别测试审批通过、拒绝与重填。

  1. 我是员工,填写出差申请。

    1. 以员工账号(本示例为Mike),登录AstroZero服务控制台。
      图25 员工登录AstroZero
    2. 在实例页面,单击“进入首页”。
    3. 在左侧导航栏中,单击“应用”,进入低代码应用页面。
    4. 在低代码应用列表中,单击已创建BTA应用后的“编辑”,选择“体验新版设计器”,进入BTA新版应用设计器。
    5. 在主菜单中,单击“运行 > 立即运行”,进入出差审批应用预览页面。
    6. 单击“我要出差”,填写出差信息,单击“提交”。
      图26 员工填写出差申请
    7. 在“我的待办 > 我的申请”中,可查看到已提交的出差申请电子流。
      图27 查看我的申请

  2. 我是主管,审批出差申请。

    1. 以主管账号(本示例为Helen),登录AstroZero服务控制台。
      图28 主管登录AstroZero
    2. 在实例页面,单击“进入首页”。
    3. 在左侧导航栏中,单击“应用”,进入低代码应用页面。
    4. 在低代码应用列表中,单击已创建BTA应用后的“编辑”,选择“体验新版设计器”,进入BTA新版应用设计器。
    5. 在主菜单中,单击“运行 > 立即运行”,进入出差审批应用预览页面。
    6. 单击“我的待办”,在我的待办列表中,单击“待主管审批”,进入主管审批页面。
      图29 我的待办
      图30 主管审批页面
    7. 单击“通过”或“驳回”。
      • 如果主管通过了审批,会发送审批通过的邮件到图26中的员工电子邮箱中,如图31
        图31 审批通过邮件
      • 如果主管驳回了审批,在员工“我的待办”中,可查看到被主管退回的申请记录,如图32
        图32 查看被拒绝的记录

    恭喜您,完成了出差审批应用的开发和功能测试。通过本章节的操作,相信您对AstroZero中的轻应用及工作流有了一定的了解,如果需更深入的学习AstroZero,可挑战一下进阶实战高阶实战

    思考:如何将出差审批应用发布到运行环境?发布到运行环境后,队列中数据会同步到运行环境中吗?

    • 问题1:免费版不提供运行环境,如果需将应用发布到运行环境,请购买专享版或专业版本,详情可参见购买商用租户。如何编译发布应用,请参见如何一键部署应用
    • 问题2:出差审批应用发布到运行环境后,开发环境中的队列信息不会同步到运行环境中,请在运行环境中重新执行步骤2:创建队列

什么是内容审核常见问题

更多常见问题 >>
  • 内容审核(Content Moderation),是基于图像、文本、视频的检测技术,可自动检测涉黄、广告、涉政涉暴、涉政敏感人物等内容,对用户上传的图片、文字、视频进行内容审核,帮助客户降低业务违规风险。

  • 内容审核-图像 Moderation (Image),基于深度学习的图像智能审核方案,准确识别图片中的涉黄、涉政涉暴、涉政敏感人物、广告、不良场景等内容,识别快速准确,帮助企业降低人力审核成本

  • 内容审核-文本Moderation(Text),基于华为自研的深度学习和内容审核模型,可自动识别出文本中出现的涉政、色情、广告、辱骂、灌水等内容,帮助客户降低业务违规风险,净化网络环境,提升用户体验

  • 内容审核服务的产品简介和相关概念等内容,帮助客户快速了解内容审核的产品优势和内容审核的应用场景,以及内容审核的常见问题和解决方法。

  • 内容审核(Content Moderation),基于图像、文本、视频检测技术,可自动检测涉黄、广告、涉暴、涉政等内容,帮助客户降低业务违规风险。通过本课程的学习,了解内容审核服务及使用场景,并掌握其申请和调用方法。

  • 内容审核​(Content Moderation)基于基于深度神经网络模型,实现对图像、文本、视频内容的智能检测检测,可自动进行涉黄、广告、涉政涉暴、涉政敏感人物、违禁品和灌水文本等内容的检测,帮助客户降低业务违规风险,大幅降低人工审核成本。