检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
ess GPU的详细功能和优势。 传统GPU长驻使用方式存在许多问题,例如,需要提前规划好资源需求并容易造成资源浪费。而Serverless GPU则提供了一种更加灵活的方式来利用GPU计算资源,用户只需选择合适的GPU型号和计算资源规模,就可以帮助用户有效地解决GPU长驻使用方
自定义镜像方式创建GPU函数 GPU 型号仅支持 NVIDIA Tesla 系列。例如:Tesla 系列 T4 卡型。 自定义镜像函数部署详见使用容器镜像部署函数。 自定义镜像函数,可以在设置->常规设置中,启用GPU。 图1 启用GPU 父主题: 创建GPU函数
创建GPU函数 GPU函数概述 自定义镜像方式创建GPU函数 定制运行时方式创建GPU函数 父主题: 创建函数
6 版本开发,使用其他版本的 cuda 请考虑使用自定义镜像函数。 定制运行时函数,可以在设置->常规设置中,启用 GPU。 图1 启用GPU 父主题: 创建GPU函数
Python语言2.7版本。 Python3.6: Pyton语言3.6版本。Python3.9: Python语言3.9版本。 Python3.10: Python语言3.10版本。Go1.x: Go语言1.x版本。Java8: Java语言8版本。Java11: Java语言11版本。Node
Python语言2.7版本。 Python3.6: Pyton语言3.6版本。Python3.9: Python语言3.9版本。 Python3.10: Python语言3.10版本。Go1.x: Go语言1.x版本。Java8: Java语言8版本。Java11: Java语言11版本。Node
Python语言2.7版本。 Python3.6: Pyton语言3.6版本。Python3.9: Python语言3.9版本。 Python3.10: Python语言3.10版本。Go1.x: Go语言1.x版本。Java8: Java语言8版本。Java11: Java语言11版本。Node
间也会被计量,用户需要为此付费,计费方式同请求处理函数。 应用场景 多个请求处理可以共享的业务逻辑适合放到初始化函数,以降低函数时延,例如深度学习场景下加载规格较大的模型、数据库场景下连接池构建。 前提条件 已创建函数。 初始化函数 登录函数工作流控制台,在左侧的导航栏选择“函数
节点执行次数费用(函数流) 函数流中除开始、结束和异常分支节点外,其他节点都要统计执行次数计费。 GPU计量时间费用 根据您配置函数的GPU规格和函数执行时长计费,输入值必须在0GB到10GB之间,执行时长的计量粒度是1毫秒。 磁盘计量时间费用 根据您配置函数的磁盘规格和函数执行时长计费,磁盘超出5
使用专享版APIG触发器 通过应用中心创建的Stable-Diffusion应用使用的APIG触发器为共享版APIG,它的带宽等资源是所有共享版APIG用户共享的,所以如果您的业务有更高的要求,可以自行换用专享版APIG触发器。操作步骤参考如下: 购买专享版APIG实例 请参考购
FunctionGraph支持的编程语言说明 创建空白函数 使用函数模板创建函数 使用容器镜像创建函数 使用Terraform创建函数 创建GPU函数
Python语言2.7版本。 Python3.6: Pyton语言3.6版本。Python3.9: Python语言3.9版本。 Python3.10: Python语言3.10版本。Go1.x: Go语言1.x版本。Java8: Java语言8版本。Java11: Java语言11版本。Node
开发事件函数 函数定义 建议使用Python 3.6版本。 对于Python,FunctionGraph运行时支持Python 2.7版本、Python 3.6、Python3.9、Python3.10版本。 函数有明确的接口定义,如下所示。 def handler (event
Python语言2.7版本。 Python3.6: Pyton语言3.6版本。Python3.9: Python语言3.9版本。 Python3.10: Python语言3.10版本。Go1.x: Go语言1.x版本。Java8: Java语言8版本。Java11: Java语言11版本。Node
Python语言2.7版本。 Python3.6: Pyton语言3.6版本。Python3.9: Python语言3.9版本。 Python3.10: Python语言3.10版本。Go1.x: Go语言1.x版本。Java8: Java语言8版本。Java11: Java语言11版本。Node
参数。 单击“创建”,完成定时触发器创建。 创建APIG触发器(共享版) 首次使用API网关的用户不再支持共享版服务,老用户仍可继续使用共享版服务。即API网关当前已不提供共享版,目前只有存量用户可以使用共享版。 函数流APIG触发器目前仅支持IAM认证方式。 在函数流编排页面,
* 每千次单价。 具体请求次数单价详情请参考价格详情。 GPU计量时间费用 根据您配置函数的GPU规格和函数执行时长计费,输入值必须在0GB到10GB之间,执行时长的计量粒度是1毫秒。 按需计费 函数计算资源消耗公式:函数GPU大小(GB) * 执行时长(秒)。执行时长的计量粒度是
Python语言2.7版本。 Python3.6: Pyton语言3.6版本。Python3.9: Python语言3.9版本。 Python3.10: Python语言3.10版本。Go1.x: Go语言1.x版本。Java8: Java语言8版本。Java11: Java语言11版本。Node
用户函数内部进行初始化逻辑。 函数处理请求并将结果返回。 其中1、2和3是系统层面的冷启动开销,通过对调度以及各个环节的优化,函数服务能做到负载快速增长时稳定的延时。4是函数内部初始化逻辑,属于应用层面的冷启动开销,例如深度学习场景下加载规格较大的模型、数据库场景下连接池构建、函数依赖库加载等等。
租户函数统计信息 功能介绍 租户函数统计信息。 返回三类的统计信息,函数格式和大小使用情况包括配额和使用量,流量报告。 通过查询参数filter可以进行过滤,查询参数period可以指定返回的时间段。 调用方法 请参见如何调用API。 URI GET /v2/{project_i