检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
上传与使用自定义模型(可选) FunctionGraph应用中心的AI对话应用中内置了默认模型ChatGLM3-6B,如需使用更多自定义模型进行AI对话,需要在创建成功的应用中初始化自定义模型挂载文件系统,并添加环境变量使用自定义模型。 前提条件 完成部署AI对话ChatGLM3准备工作,委托中包含“SWR
上传自定义模型(可选) FunctionGraph应用中心的AI绘画Stable Diffusion应用中内置了默认模型,如需使用更多自定义模型进行AI绘画,需要在创建成功的应用中初始化自定义模型挂载文件系统,即可上传自定义模型至文件系统进行AI绘画。 前提条件 FunctionGraph的云服务委托中包含“SWR
函数模型介绍 本节内容主要介绍FunctionGraph函数模型和Trigger Management触发器模型的返回字段。通过提前熟悉返回字段的参数说明,方便您快速了解API接口的功能,详细信息请参考API。 FunctionGraph函数模型 函数Trigger Management触发器模型
FunctionGraph函数模型 介绍FunctionGraph函数模型的返回字段。 函数模型 FunctionGraph函数模型如下。 { "functions": [ { "func_urn": "urn:fss:xxxxxx
上传自定义模型和节点(可选) FunctionGraph应用中心的AI绘画应用中内置了默认模型,如需使用更多自定义模型和自定义节点进行AI绘画并保存生成的结果,需要在创建成功的应用中初始化自定义模型,并挂载文件系统为应用提供持续使用能力。 前提条件 完成部署AI绘画ComfyUI
函数Trigger Management触发器模型 介绍Trigger Management触发器模型的返回字段。 触发器类型模型 { "trigger_type_code":"string", "display_name":"string", "status":"string"
约束与限制 由于网络环境的不确定性,使用ComfyUI Manager在线安装自定义模型和节点可能失败,如需在FunctionGraph应用中心的AI绘画中使用自定义模型和节点,建议采用上传自定义模型和节点(可选)方式进行上传和加载。 前提条件 完成部署和使用AI绘画ComfyUI
ckpt大模型,AI绘画ComfyUI+FLUX应用已内置flux1-dev-fp8.safetensors大模型和黑神话风格的Lora模型,使用内置默认模型和临时域名快速部署AI绘画应用,立即享受文生图的乐趣。 自定义模型和节点:可以根据具体需求挂载文件系统上传自定义模型和节点,
Python SDK使用范例 以同步执行函数为例,提供封装后的SDK。为了保证您成功使用以下示例代码,您需要先添加对应语言的SDK依赖。 表1 Python SDK信息说明 SDK信息 说明 安装 pip install huaweicloudsdkfunctiongraph 相关链接
具体使用需求进行相应的部署操作。 快速部署:无需拥有深厚的技术背景,使用内置默认模型和临时域名快速部署,立即享受与AI对话的乐趣。 自定义模型:可以根据具体需求挂载文件系统上传自定义模型,搭配不同模型能力获得更个性化的对话效果。 进阶使用:本文还提供多用户使用场景下需要资源隔离的相关使用方法。
Java SDK使用范例 以同步执行函数为例,提供封装后的SDK。为了保证您成功使用以下示例代码,您需要先添加对应语言的SDK依赖。 表1 Java SDK信息说明 SDK信息 说明 安装 <dependency> <groupId>com.huaweicloud.sdk</groupId>
Administrator:服务器管理员。 上传和使用自定义模型时必选。 SFS FullAccess 弹性文件服务所有权限。 上传和使用自定义模型挂载SFS文件系统时必选。 SFS Turbo FullAccess 弹性文件服务SFS Turbo的所有权限。 上传和使用自定义模型挂载SFS文件系统时必选。 在
Go SDK使用范例 以同步执行函数为例,提供封装后的SDK。为了保证您成功使用以下示例代码,您需要先添加对应语言的SDK依赖。 表1 Go SDK信息说明 SDK信息 说明 安装 go get -u github.com/huaweicloud/huaweicloud-sdk-go-v3
身份认证与访问控制 身份认证 用户访问FunctionGraph的方式有多种,包括FunctionGraph控制台、API、SDK,无论访问方式封装成何种形式,其本质都是通过FunctionGraph提供的REST风格的API接口进行请求。FunctionGraph支持Token认证和AK/SK认证。
函数依赖包概述 函数依赖包简介 函数依赖包包含支持函数业务代码运行的公共库,您可以将业务代码所需的公共库封装成依赖包进行单独管理,便于多函数共享,同时也能有效缩减函数代码包在部署与更新过程中的体积。 函数依赖包分为公共依赖包与私有依赖包,函数工作流控制台的“依赖包管理”模块统一管
为此付费,计费方式与函数的调用处理一致。 一般场景下,多个请求处理可以共享的业务逻辑适合放到初始化函数,以降低函数时延,例如深度学习场景下加载规格较大的模型、数据库场景下连接池构建。 约束与限制 函数初始化入口需要和函数执行入口在同一文件下。 开启函数初始化功能后,各运行时的函数
使用APIG触发器调用一个返回String的FunctionGraph函数时,报500错误 FunctionGraph函数对来自APIG调用的返回结果进行了封装,APIG触发器要求函数的返回结果中必须包含body(String)、statusCode(int)、headers(Map)和isBas
Node.js SDK使用范例 以同步执行函数为例,提供封装后的SDK。为了保证您成功使用以下示例代码,您需要先添加对应语言的SDK依赖。 表1 Node.js SDK信息说明 SDK信息 说明 安装 npm i @huaweicloud/huaweicloud-sdk-functiongraph
其中1、2和3是系统层面的冷启动开销,通过对调度以及各个环节的优化,函数服务能做到负载快速增长时稳定的延时。4是函数内部初始化逻辑,属于应用层面的冷启动开销,例如深度学习场景下加载规格较大的模型、数据库场景下连接池构建、函数依赖库加载等等。 为了减小应用层冷启动对延时的影响,FunctionGraph推出了initi
进阶使用:通过挂载同一SFS文件系统实现多用户资源共享 应用场景 模型文件普遍占用大量内存,在多用户使用场景下,每个用户复制一份模型文件会导致不必要的存储空间浪费。通过将不同用户的应用挂载到同一SFS文件系统下,能够满足多人共享模型文件资源的需求,同时为了避免不同用户使用期间的推理结果相互影响,可以在Stable