如需了解国际站更多云产品，请访问国际站。https://www.huaweicloud.com/intl/
不再显示此消息
如需了解国际站更多云产品，请访问国际站。https://www.huaweicloud.com/intl/
不再显示此消息
"inputObject" } } 点击“保存”后，即可点击“测试”按钮查看运行结果。 可以在“执行结果”中看到保存的事件信息完整的打印在了参数body中，此函数已具备接收OBS事件的能力，可作为算子在DWR中运行。接下来我们将在其中添加“下载OBS对象功能”让函数功能更加丰富。
什么是弹性内存存储 弹性内存存储（Elastic Memory Service，EMS）是一种以DRAM内存为主要存储介质的云基础设施服务，为LLM推理提供缓存和推理加速。EMS实现AI服务器的分布式内存池化管理，将LLM推理场景下多轮对话及公共前缀等历史KVCache缓存到EM
EMS以存代算 以存代算产生的背景 在AI推理过程中，Transformer模型接收用户的问题输入，并通过迭代方式生成相应的回答。每个Transformer层由自注意力模块和前馈网络模块组成。 在自注意力模块中，上下文词元（token）与模型参数结合，生成中间数据K（键）和V（值
官方算子一览 本小节介绍华为云自有服务提供的各类算子的参数配置说明。 不同区域支持的算子可能不同，请以控制台实际为准。 表1 华为云官方算子一览 分类 模板名称 是否支持同步工作流 算子提供方 图像处理 图像标签 是 图像识别服务Image 人脸检测 是 人脸识别服务FRS 人脸搜索
测试算子功能 当算子功能代码开发完毕后，可以在DWR工作流中使用或进行上线前的测试。本节主要介绍如何使用DWR的自定义工作流来测试算子的功能。 测试算子功能 登录DWR控制台， 在工作流页面点击“创建工作流”进入工作流编排界面。 将左侧“自定义”算子拖拽至编排区域。 鼠标单击各流
示例：图片质量变换 场景介绍 对于需要对大量图片文件进行压缩，快速发布上线的场景，可以使用DWR可视化的质量变换工作流来完成任务，帮助用户提升图片处理效率，节省内容发布时间。 实现流程 该实例通过创建触发器的方式异步启动工作流，实现流程为： 在OBS服务中创建桶 在DWR服务中创建工作流
权限管理 如果您需要对华为云上购买的DWR资源，为企业中的员工设置不同的访问权限，以达到不同员工之间的权限隔离，您可以使用统一身份认证服务（Identity and Access Management，简称IAM）进行精细的权限管理。该服务提供用户身份认证、权限分配、访问控制等功
创建工作流 操作场景 工作流主要是对算子进行编排，这样DWR就可以按照用户编排的工作流对OBS中的数据进行自动化处理（如视频解析、图片转码、视频截图等）。 操作步骤 登录管理控制台。在左侧导航栏上方，单击，选择“存储 > 数据工坊DWR”。 进入DWR页面。 在左侧导航栏选中“工
发布算子 操作场景 所有开发者均可以创建用于数据处理的算子，审核通过后发布至DWR算子市场，开放给所有华为云用户使用。 当算子被华为云用户使用之后，算子发布者将会获得相应的收益，详情参见计费说明。 算子从API上线、开发、到发布的整个流程如图1所示，本节主要介绍如何使用DWR发布已开发好的算子到算子市场。
发布算子 操作场景 所有开发者均可以创建用于数据处理的算子，审核通过后发布至DWR算子市场，开放给所有华为云用户使用。 当算子被华为云用户使用之后，算子发布者将会获得相应的收益，详情参见计费说明。 算子从API上线、开发、到发布的整个流程如图1所示，本节主要介绍如何使用DWR发布已开发好的算子到算子市场。
知识检索计费 在使用知识湖存储中的知识检索功能时，需要先创建知识仓实例，使用知识仓实例，会收取一定的费用。 计费说明 资费项 计费项 含义 适用的计费模式 计费公式 知识检索计费 知识仓实例费用 根据知识仓实例的CU规格、CU数量以及使用时长（小时）进行按需计费。 使用时长不足一小时的，以实际使用时长为准。
自定义函数开发规范 用户在自行开发自定义函数时，函数的输入参数和输出参数需要遵守本节的开发规范。 自定义函数的编译方式请参考FunctionGraph的《开发指南》。 函数输入参数 工作流执行自定义函数时，函数输入参数的JSON格式的结构体和环境变量的定义如下： 表1 函数输入的JSON格式体
创建视频转码工作流 场景介绍 针对使用DWR做视频转码的场景，如果需要每个对象转码任务的参数不同，可通过给对象增加对象元数据（例如：x-obs-meta-transcode-commands: base64(commands)），再使用DWR集成自定义函数的方式来实现视频转码。 具体的工作流视图如图1所示。
视频解析 场景介绍 解析视频的元数据信息，包括：视频时长、视频格式、码率等。用于视频播放时获取时长，分辨率展示 等等。 流程一览 操作步骤 在OBS服务中创建桶 在OBS服务控制台创建两个桶，一个用于上传待处理的数据对象，一个用于存储处理后的数据对象。桶的详细介绍参见创建桶。 数据输入桶：“piccomp”
媒资转码 场景介绍 执行MPC服务的预置转码模板“DASH_H.265_4K_低码_1入9出”，将片源转为4K、2K、1080等码率的视频。该模板实际调用的是MPC服务的新建转码任务接口。 约束与限制 媒资转码算子不支持同步返回，如您配置了同步工作流执行媒资转码算子，则会采用异步方式执行，且返回值会格式异常。
应用场景 LLM大语言模型推理 需求和挑战 随着LLM推理的飞速发展，LLM推理需求急速增加，LLM推理包含多种任务，如：多轮对话交互、信息检索和文本生成（包括代码）等。 LLM推理场景的需求和主要挑战如下： 保持连贯性：受限于显存容量原因，多轮交互使智能助手很容易“忘记”对话中更早的部分或重复自己说过的话。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
您即将访问非华为云网站，请注意账号财产安全
