检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
为什么第一次请求会比较慢? 因为函数是冷启动的,所以如果有初始化或者函数中有第一次执行比较耗时的操作,第一次请求会比较慢,后面接着的请求就会很快,因为此时容器还没有销毁。如果间隔一分钟没有请求,容器就会销毁。 父主题: 函数执行
创建委托 使用华为云Serverless应用中心部署Stable-Diffusion WebUI应用需要FunctionGraph服务与其他云服务协同工作,因此需要通过配置委托给FunctionGraph授权必要的云服务资源的操作权限,且委托授权的生效需要15-30分钟才能生效,所以强烈建议您提前创建委托。
使用API模式 通过Serverless应用中心和管理中台部署的Stable-Diffusion应用默认未开启API访问,您可以通过配置函数环境变量的方式开启,请参考配置环境变量为Stable-Diffusion函数配置如下环境变量并保存。 表1 环境变量 Key Value EXTRA_ARGS
is_stateful_function Boolean 是否支持有状态,v2版本支持 domain_names String 函数配置的需要支持域名解析的内网域名。 is_return_stream Boolean 是否返回流式数据(已废弃) enable_auth_in_header Boolean
约束与限制 支持区域 当前支持的区域列表,请参见表1 表1 支持区域 区域名称 区域ID 非洲-约翰内斯堡 af-south-1 中国-香港 ap-southeast-1 亚太-曼谷 ap-southeast-2 亚太-新加坡 ap-southeast-3 亚太-雅加达 ap-southeast-4
创建VPC和子网 登录华为云网络控制台,单击“创建虚拟私有云”,进入“创建虚拟私有云”界面。 在“创建虚拟私有云”界面填写如下参数: 基本信息 区域:请选择“华东-上海一”,当前Stable-Diffusion应用仅支持上海一部署。 名称:自定义。 IPv4网段:请根据实际情况填写。
多人共享模型、插件 使用ECS作为NFS服务器实现多用户资源隔离介绍了如何使用ECS作为NFS服务器解决多人使用Stable-Diffusion WebUI的资源隔离问题,这一方案适合用户之间要求强隔离的场景。 在某些场景下如您希望多人共享部分资源,如模型文件、插件等,因为模型文
初始化 登录函数工作流控制台,区域选择“上海一”。在左侧导航栏选择“应用中心”,在“应用程序”列表中单击需要初始化应用名称,进入“总览”页面。 在“总览”页面,单击“初始化自定义模型”开始配置。 图1 初始化自定义模型 VPC、子网、文件系统请选择前面创建的资源,函数访问路径默认
模型上传与加载 将您自定义的模型上传到对应的路径下,如CheckPoint模型、VAE模型和Lora模型。 图1 CheckPoint模型 图2 VAE模型 图3 Lora模型 上传完成后回到Stable-Diffusion WebUI界面重新加载模型后即可看到新增模型,加载需要较长时间请耐心等待。
离线异步任务场景 特征 在离线异步应用场景中,工作负载具有以下一个或多个特征: 执行时间长 业务的处理耗时一般在分钟~小时级,Response Time不敏感。 提交后立即返回 在触发调用后立即得到返回,从而不因长耗时处理阻塞业务主逻辑的执行。 实时感知任务状态 无 并行处理 离
别名管理 概述 别名指向函数的特定版本,推荐您创建别名并把别名暴露给客户端(例如绑定触发器到别名上而不是某个版本上)。这样,通过修改在别名上配置的版本,可以实现版本的更新和回滚,客户端无感知。一个别名支持配置最多两个版本,在不同的版本上可以分配不同的权重,实现灰度发布。 创建别名
调用函数所示,在URL后添加请求参数greeting?name=fg_user,响应如下。 图6 调用函数 默认生成的APIG触发器的调用URL为“域名/函数名”,在本案例中即:https://your_host.com/springboot_demo,URL中包含了函数名springbo
DA实例”,进入选择界面。 在“IoTDA实例”界面右侧,单击“购买实例 ”,进入参数配置界面,请您根据实际业务需求进行配置。 图1 开通免费单元 参数配置完成后,单击“立即创建”,完成IoTDA实例创建。 创建函数 在服务控制台左侧导航栏,选择“计算 > 函数工作流”进入函数工作流控制台,单击“创建函数”。
URI-scheme:表示用于传输请求的协议,当前所有API均采用HTTPS协议。 Endpoint:指定承载REST服务端点的服务器域名或IP,不同服务不同区域的Endpoint不同,您可以从地区和终端节点中获取。例如IAM服务在“华北-北京一”区域的Endpoint为“iam
使用ECS作为NFS服务器实现多用户资源隔离 使用ECS作为NFS服务器实现多用户资源隔离 FunctionGraph的函数实例除了支持挂载SFS弹性文件系统外,也支持挂载ECS服务器共享出来的NFS共享路径,使用ECS更便于进行多租户的资源管理。 购买ECS服务器,其中以下几点需要注意:
实时推理场景 特征 在实时推理应用场景中,工作负载具有以下一个或多个特征: 低延迟 单次请求的处理时效性要求高,RT(Response Time)延迟要求严格,90%的长尾延时普遍在百毫秒级别。 功能优势 函数计算为实时推理工作负载提供以下功能优势: 预留GPU实例 函数计算平台
is_stateful_function Boolean 是否支持有状态,v2版本支持 domain_names String 函数配置的需要支持域名解析的内网域名。 enable_auth_in_header Boolean 是否允许在请求头中添加鉴权信息 custom_image CustomImage
使用APIG触发器调用一个返回String的FunctionGraph函数,报500错误,该如何解决? FunctionGraph函数对来自APIG调用的返回结果进行了封装,APIG触发器要求函数的返回结果中必须包含body(String)、statusCode(int)、hea
闲置时资源消耗计算公式(闲置时的资源消耗是不包含在40万GB-秒免费额度中): 函数内存大小(GB)* (预留实例存活时间-预留实例执行时间)* 空闲时每GB-秒单价。 执行时资源消耗计算公式(执行时的资源消耗是包含在40万GB-秒免费额度中): <=400,000GB-秒,不计费。 >400
FunctionGraph和kafka必须在同一个子网内,才可以在FunctionGraph中配置Kafka触发器吗? 是必须的。在创建函数的时候会判断子网是否相同,不允许一个VPC的不同子网进行连接。 父主题: 触发器管理