如需了解国际站更多云产品，请访问国际站。https://www.huaweicloud.com/intl/
不再显示此消息
如需了解国际站更多云产品，请访问国际站。https://www.huaweicloud.com/intl/
不再显示此消息
EMS部署类问题 EMS内存池需要占用AI节点多少DRAM内存
EMS内存池需要占用AI节点多少DRAM内存 EMS数据面镜像部署在用户的CCE容器集群上，EMS镜像运行需要占用AI节点的vCPU、内存等资源，同时EMS用于保存推理KVCache需要额外占用AI节点的内存资源。AI推理场景受限于显存瓶颈，DRAM内存富余较多，建议分配一半DR
S升级。 收集运维指标 在CCE集群上安装监控插件，将CCE集群上部署的EMS监控数据上报至AOM实例，便于您随时监控业务。 配置告警 在CCE集群上配置告警规则，出现EMS告警时，能够及时通知您处理告警。 收集日志 通过将EMS日志规则配置到云日志服务 LTS，您可以获取EMS的相关操作日志，从而帮助您定位问题。
将占用约4.5MB * 2048 = 10GB的AI服务器显存空间。 然而，AI服务器通常只能提供几十GB的显存容量，其中一部分还要用于存储模型参数，仅剩余部分空间用于KVCache缓存。例如：使用8张64GB的AI服务器部署GPT3模型，系统显存总容量为512GB（8 * 64
与其他服务的关系 图1 EMS与其他服务的关系 表1 EMS与其他服务的关系 服务名称 EMS服务与其他服务的关系 主要交互功能 云容器引擎 （Cloud Container Engine，CCE） EMS数据面镜像基于CCE云容器引擎服务进行安装部署。 部署EMS数据集群 云硬盘（Elastic
等任务，通过空间池化提供内存缓存共享访问。内存池当前采用融合部署方式，即利用AI服务器中的DRAM（动态随机存取存储器），将DRAM内存池化以实现分布式共享，并进行本地亲和地调度和访问。 EMS管理面负责EMS服务的部署、监控、升级及运维管理等功能，通过华为云的云原生基础设施为用户提供一站式的云上运维解决方案。
ctionGraph开发文档。 图2 FunctionGraph编辑代码界面 测试代码 测试代码需要配置测试事件，在下拉框中选择“配置测试事件”，进入配置测试事件界面。 图3 配置测试事件 选择“创建新的测试事件”并选择“空白模板”，将原有内容替换为以下事件(json格式)内容。
为保证数据传输的安全性，访问EMS服务控制台时支持HTTPS协议。 操作认证 所有EMS服务管理面的API都会进行IAM身份认证。 审计与安全 出于分析或审计等目的，用户可以开启日志记录功能。通过将EMS日志规则配置到云日志服务 LTS，您可以获取EMS数据面的相关运行日志，从而帮助您定位问题。 服务韧性
人脸比对 是 人脸识别服务FRS 圆角剪切 是 对象存储服务OBS 普通裁剪 是 对象存储服务OBS 索引剪切 是 对象存储服务OBS 图片水印 是 对象存储服务OBS 文字水印 是 对象存储服务OBS 缩略图 是 对象存储服务OBS 内切圆裁剪 是 对象存储服务OBS 自适应旋转 是
基本概念 工作流 工作流是DWR运行单位，其中可以包含一个或多个算子，客户可通过加入不同算子到工作流中实现高度自由化的数据处理功能。 算子 算子是DWR中的执行单位，是一个具有输入输出的完成功能模块。算子既有华为云提供的内置官方算子，也有经过华为云审核后的第三方算子。用户可以根据
容。点击“新增动态参数”，并添加动态参数，配置结果如图2所示。 配置完成后，点击保存按钮输入工作流名称，点击确认，成功保存后界面会自动跳转到工作流列表界面。 图2 配置动态参数例图 配置OBS桶触发器 根据图2所示，工作流的执行时机由触发器决定，当前DWR仅支持OBS的触发器 在
为什么需要激活凭证 EMS采用半托管融合部署，EMS数据面部署在用户AI节点上，用户需要使用激活凭证激活EMS后才能开始使用。EMS激活时，EMS数据面会和EMS管理面通信，通过EMS管理面校验并完成用户关联后，用户才能使用EMS。 父主题： EMS控制台使用类问题
您首先需要在FunctionGraph导入自定义算子需要的函数依赖包。然后需要在FunctionGraph创建自定义抽帧截图函数。之后需要在DWR工作流编排界面完成配置动态参数，创建同步工作流。最后触发工作流进行验证。 图1 操作流程 父主题： 抽帧截图（自定义算子）
媒资转码”函数，且配置“媒资转码”函数的转码输出桶为桶A。用户创建一条工作流workflowB，在工作流中使用了内置的“媒资转码”函数，且配置“媒资转码”函数的转码输出桶为桶B。然后，在桶B上配置触发器triggerA关联工作流workflowA，在桶A上配置触发器trigger
Token，TTFT），同时也节省了推理算力，提高推理吞吐，加速了大模型推理服务的效率。 建议搭配服务 AI开发平台 ModelArts、云容器引擎 CCE、高性能弹性文件服务 SFS Turbo、对象存储服务 OBS。 图1 LLM大语言模型推理
产品优势 EMS内存存储具有以下优势： 半托管融合部署，降低成本 EMS数据面部署在AI服务器上，采用融合部署，统一纳管AI服务器上空闲的DRAM内存资源，复用DRAM内存资源，提供推理加速服务，降低推理KVCache存储成本。 分级缓存，提升推理吞吐，优化推理时延 EMS通过构
在“代码依赖包”模块点击“添加依赖包”。 选择私有依赖包，添加步骤1中创建好的依赖包 依赖添加成功后，在FunctionGraph控制台添加算子代码并保存部署。参考示例如下： # -*- coding:utf-8 -*- import json # 引入模块 from obs import ObsClient
作伙伴将自有功能包装成算子发布到DWR平台上，帮助伙伴快速搭建用户的数据处理工厂。 算子发布流程 图1 算子发布流程图 部署服务：算子提供方需要将自身服务部署在华为云，同时对外提供API，方便用户进行调用。 API上线云市场：云市场提供API调用权限的购买入口，算子提供方将步骤1
API 算子市场 算子市场即DWR提供的算子库，提供方包括华为和第三方。 华为算子的能力源是华为云数据处理相关的云服务，如媒体处理MPC、图像识别Image等，DWR将云服务提供的各种数据处理能力通过函数生成算子并在算子市场发布。 第三方算子是基于DWR的算子注册能力，由第三方开发者
媒资转码 场景介绍 执行MPC服务的预置转码模板“DASH_H.265_4K_低码_1入9出”，将片源转为4K、2K、1080等码率的视频。该模板实际调用的是MPC服务的新建转码任务接口。 约束与限制 媒资转码算子不支持同步返回，如您配置了同步工作流执行媒资转码算子，则会采用异步方式执行，且返回值会格式异常。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
您即将访问非华为云网站，请注意账号财产安全
