检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
实时推理场景 特征 在实时推理应用场景中,工作负载具有以下一个或多个特征: 低延迟 单次请求的处理时效性要求高,RT(Response Time)延迟要求严格,90%的长尾延时普遍在百毫秒级别。 功能优势 函数计算为实时推理工作负载提供以下功能优势: 预留GPU实例 函数计算平台提供了默认的按量
密钥配置文档 获取密钥信息 登录华为云后台,单击右上角“账号中心 > 我的凭证 ”,进入“我的凭证”界面。 在左侧导航栏进入“访问密钥”界面,单击“新增访问密钥”生成新的密钥并下载保存。 配置密钥 引导式配置 可以通过执行config add直接进行密钥的添加: $ s config
使用指南 欢迎使用华为云函数工作流Serverless使用指南。 您在继续操作之前,使用CLI需要先提供华为云用户凭证。 简介 快速入门 安装 凭证 服务 函数 事件 部署 打包 变量 父主题: Serverless Framework
使用Terraform 命令创建函数 进入文件路径,执行terraform init命令初始化一个包含Terraform代码的工作目录。 执行terraform apply命令,在Enter a value: 处输入yes。 执行成功代表函数创建完成。 父主题: 使用Terraform
调用 调用已部署的函数。您可以发送事件数据、读取日志和查看函数调用的其他重要信息。 serverless invoke --function functionName 选项 --function或-f:要调用的服务中函数的名称,必填。 --data或-d:传递给函数的数据。 --path
Yaml文件 字段解析 表1 参数说明 参数 必填 类型 参数描述 region True Enum 地域 function True Struct 函数 triggers False Struct 触发器 Yaml完整配置 华为云函数工作流(FunctionGraph)组件的Yaml
准实时推理场景 本章节介绍什么是准实时推理场景,以及如何使用GPU按量实例和如何基于GPU按量实例构建使用成本较低的准实时推理服务。 特征 在准实时推理应用场景中,工作负载具有以下一个或多个特征: 调用稀疏 日均调用几次到几万次,日均GPU实际使用时长远低于6~10小时,GPU存在大量闲置
离线异步任务场景 特征 在离线异步应用场景中,工作负载具有以下一个或多个特征: 执行时间长 业务的处理耗时一般在分钟~小时级,Response Time不敏感。 提交后立即返回 在触发调用后立即得到返回,从而不因长耗时处理阻塞业务主逻辑的执行。 实时感知任务状态 无 并行处理 离线
使用API模式 通过Serverless应用中心和管理中台部署的Stable-Diffusion应用默认未开启API访问,您可以通过配置函数环境变量的方式开启,请参考配置环境变量为Stable-Diffusion函数配置如下环境变量并保存。 表1 环境变量 Key Value EXTRA_ARGS
创建 根据指定的模板在当前工作目录下创建新服务。 在当前工作目录中创建服务: serverless create --template-url https://github.com/zy-linn/examples/tree/v3/legacy/huawei-nodejs 使用自定义模板在新文件夹中创建服务
安装 在当前工作目录中从GitHub URL安装服务,如下: serverless install --url https://github.com/some/service 选项 --url或-u:GitHub的服务URL,必填。 --name或-n:服务名称。 示例 从GitHub
打包 默认情况下,sls package命令将所有基础设施资源打包到.serverless目录中用于部署。 示例 serverless package 在该示例中,您的服务会被打包。生成的软件包将默认位于服务的.serverless目录。 父主题: CLI参考
部署 serverless deploy命令通过华为云API部署整个服务。当您编辑serverless.yml文件更改了服务时,请运行此命令。 serverless deploy 产物 执行serverless deploy命令后,所有创建的部署产物都将放置在服务的.serverless
信息 serverless info命令显示有关已部署服务的信息,在您的服务目录中运行此命令。 serverless info 父主题: CLI参考
创建委托 使用华为云Serverless应用中心部署Stable-Diffusion WebUI应用需要FunctionGraph服务与其他云服务协同工作,因此需要通过配置委托给FunctionGraph授权必要的云服务资源的操作权限,且委托授权的生效需要15-30分钟才能生效,所以强烈建议您提前创建委托
函数 如果您以华为云函数工作流作为提供商,则服务的所有函数都属于华为云函数工作流中的函数。 配置 您的Serverless服务中有关华为云函数工作流的所有内容都可以在functions属性下的serverless.yml中找到。 # serverless.yml service:
部署 Serverless Framework旨在安全、快速地为您创建华为云函数工作流的函数、事件和资源。 全量部署 如下是使用Serverless Framework执行部署的主要方法: serverless deploy 当您在serverless.yml中更新了函数、事件或资源配置
打包 打包CLI命令 使用Serverless CLI工具,可以将项目打包,而无需将其部署到华为云。这最好与CI/CD工作流一起使用,以确保可部署产物一致。 运行以下命令将在服务的.serverless目录中构建和保存所有部署产物: serverless package 打包配置
函数初始化入口Initializer 概述 Initializer是函数的初始化逻辑入口,不同于请求处理逻辑入口的handler,在有函数初始化的需求场景中,设置了Initializer后,FunctionGraph首先调用initializer完成函数的初始化,之后再调用handler
OBS事件 华为云函数可以由不同的event源触发。这些事件源可以通过event定义和配置。 OBS事件 此示例设置一个OBS事件,每当对象上传到my-service-resource时,该事件将触发first函数。 # serverless.yml functions: first