如需了解国际站更多云产品，请访问国际站。https://www.huaweicloud.com/intl/
不再显示此消息
如需了解国际站更多云产品，请访问国际站。https://www.huaweicloud.com/intl/
不再显示此消息
Memory Service，EMS）是一种以DRAM内存为主要存储介质的云基础设施服务，为LLM推理提供缓存和推理加速。EMS实现AI服务器的分布式内存池化管理，将LLM推理场景下多轮对话及公共前缀等历史KVCache缓存到EMS内存存储中，通过以存代算，减少了冗余计算，提升推
针对AI推理场景面临的痛点问题，华为云通过EMS加速推理业务，提升推理业务吞吐，降低推理时延，降低推理资源部署成本。LLM在线推理场景示意图如图1所示。 由于AI服务器内存墙瓶颈，EMS利用AI集群的空闲内存构建分布式内存池，实现显存容量的扩展，突破单机内存的瓶颈。通过EMS将LLM推理中的多轮对话、公共
产品优势 EMS内存存储具有以下优势： 半托管融合部署，降低成本 EMS数据面部署在AI服务器上，采用融合部署，统一纳管AI服务器上空闲的DRAM内存资源，复用DRAM内存资源，提供推理加速服务，降低推理KVCache存储成本。 分级缓存，提升推理吞吐，优化推理时延 EMS通过构
业务流程复杂，复杂度高 图形化编排工具，一站式运维平台，复杂度低 DWR的优势 高效：数据处理时间缩短60% 近数据计算：调用算子提供商设定好的云服务器API来执行算子，函数化调用，路径短。 易用：开发运维效率提升50%+ 图形化编排：拖拉式智能模块化操作，免代码。 一站式运维：可视化统一运维平台，降低管理难度。
一个事件触发器可以设置多个前缀或者后缀吗？ 如果您需要使用一个工作流处理多种后缀的文件，可以为该工作流创建多条事件触发器来实现支持多个前缀或者后缀。 当前一个事件触发器支持设置一个前缀或者后缀，一个桶支持绑定10个触发器。 例如：对于媒资转码工作流，用户需要对后缀mp4和mov两
示例：图片质量变换 场景介绍 对于需要对大量图片文件进行压缩，快速发布上线的场景，可以使用DWR可视化的质量变换工作流来完成任务，帮助用户提升图片处理效率，节省内容发布时间。 实现流程 该实例通过创建触发器的方式异步启动工作流，实现流程为： 在OBS服务中创建桶 在DWR服务中创建工作流
文将占用约4.5MB * 2048 = 10GB的AI服务器显存空间。 然而，AI服务器通常只能提供几十GB的显存容量，其中一部分还要用于存储模型参数，仅剩余部分空间用于KVCache缓存。例如：使用8张64GB的AI服务器部署GPT3模型，系统显存总容量为512GB（8 * 6
身份认证与访问控制 IAM身份认证 用户访问EMS服务控制台时，其本质是通过EMS服务管理面提供的REST风格的API接口进行请求。 EMS服务管理面的接口支持认证请求，需要用户从华为云统一身份认证服务 IAM获取正确的鉴权信息才能访问成功。关于IAM鉴权信息的详细介绍及获取方式，请参见认证鉴权。
资源和成本 表1 资源和成本规划 资源 资源说明 数量 每月费用 OBS 算子请求OBS API。 1 通过算子对数据进行处理，都会涉及到对OBS API的调用，每调用一次API都计算一次请求次数。对象存储服务OBS会根据调用API的请求次数进行费用收取，收取详情参见OBS请求费用说明。
于策略的授权是一种更加灵活的授权方式，能够满足企业对权限最小化的安全管控要求。例如：针对DWR服务，管理员能够控制IAM用户仅能对某一类云服务器资源进行指定的管理操作。多数细粒度策略以API接口为粒度进行权限拆分。 如表1所示，包括了DWR的所有系统权限。 表1 DWR系统权限 系统角色/策略名称
基本概念 工作流 工作流是DWR运行单位，其中可以包含一个或多个算子，客户可通过加入不同算子到工作流中实现高度自由化的数据处理功能。 算子 算子是DWR中的执行单位，是一个具有输入输出的完成功能模块。算子既有华为云提供的内置官方算子，也有经过华为云审核后的第三方算子。用户可以根据
通过事件触发器异步启动工作流 操作场景 创建工作流之后，可以通过创建事件触发器来为工作流设置执行条件，指定桶内什么数据在执行某类操作后开始执行工作流。 前提条件 已完成工作流创建。 约束与限制 一个桶支持绑定10个事件触发器。 操作步骤 登录管理控制台。在左侧导航栏上方，单击，选择“存储
“无限循环”触发工作流如何处理？ 由于DWR只能按触发器前缀、后缀、事件源类型等条件触发工作流，所以可能存在出现“无限循环”的场景。如果出现“无限循环”，只能先删除桶的事件触发器。主要有以下两个场景： 场景1：触发器源桶和函数执行输出目标桶是同一个桶的无限循环 案例1：使用DWR内置函数触发“无限循环”
处理数据 入门流程 示例：图片质量变换
抽帧截图（自定义算子） 方案概述 资源和成本 操作流程 实施步骤
数据处理介绍 DWR如何实现数据处理 DWR提供的近数据处理能力，可以对OBS内存储的数据，按照用户编排的工作流进行自动化处理（如解析、转码、截图等）。 DWR基于函数工作流FunctionGraph的函数能力，将复杂的业务处理逻辑编排为工作流，通过事件触发器或API驱动，自动化
算子管理 算子市场介绍 发布算子 官方算子一览
数据处理 数据处理介绍 创建工作流 启动工作流
相关参考 自定义函数开发规范
操作流程 图1 操作流程 父主题： 抽帧截图（官方算子）
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
您即将访问非华为云网站，请注意账号财产安全
