该解决方案有何用途?

该解决方案基于华为云内容审核 Moderation的图像审核技术构建,可自动对用户上传到对象存储服务 OBS的图片进行审核,识别图片中是否包含涉黄、广告、涉政涉暴、涉政敏感人物等违规内容,降低业务违规风险。适用于如下场景:

1. 视频直播:在互动直播场景中,成千上万个房间并发直播,人工审核直播内容几乎不可能。基于图像检测能力,可对所有房间内容实时监控,识别可疑房间并进行预警。

2. 在线商城:智能审核商家/用户上传图像,高效识别并预警不合规图片,防止涉黄、涉暴、涉政敏感类图像发布,降低人工审核成本和业务违规风险。

3. 网站论坛:不合规图片的识别和处理是用户原创内容(UGC)类网站的重点工作,基于内容审核,可以识别并预警用户上传的不合规图片,帮助客户快速定位处理,降低业务违规风险。

方案架构

该解决方案基于华为云内容审核 Moderation的图像审核技术构建,可帮助企业快速使用AI技术,实现图片审核的自动化处理。

内容审核-图片审核

版本:2.0.0

上次更新日期:2024年10月

来源:由华为云构建

部署:预计5分钟

卸载:预计5分钟

架构描述

架构描述

  • 创建两个对象存储服务 OBS桶,一个提供给用户上传图片,另一个用于转储违规图片和存放审核日志

  • 函数工作流 FunctionGraph中创建函数,当OBS桶收到上传的图片后,会自动通知函数调用内容审核服务,并将违规图片进行替换和转储

  • 开通内容审核 Moderation,用于违规图片的内容审核

  • 使用事件网格 EG服务,创建一个事件订阅,作为函数工作流的OBS应用事件源触发器

展开内容
收起内容