检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
上传与使用自定义模型(可选) FunctionGraph应用中心的AI对话应用中内置了默认模型ChatGLM3-6B,如需使用更多自定义模型进行AI对话,需要在创建成功的应用中初始化自定义模型挂载文件系统,并添加环境变量使用自定义模型。 前提条件 完成部署AI对话ChatGLM3准备工作,委托中包含“SWR
上传自定义模型(可选) FunctionGraph应用中心的AI绘画Stable Diffusion应用中内置了默认模型,如需使用更多自定义模型进行AI绘画,需要在创建成功的应用中初始化自定义模型挂载文件系统,即可上传自定义模型至文件系统进行AI绘画。 前提条件 FunctionGraph的云服务委托中包含“SWR
Funcurn使用冒号分隔为8个域,region_id为系统配置的值(测试时可以填成与后台相同的值),最后一个中括号的内容表示可以为函数的版本号,也可以为该版本指向的别名,如果为别名时需要在名称前加上感叹号!以示区分。 当作为API参数时,可以提供简化格式的Funcurn,具体如下。 提供1个域:解析
上传自定义模型和节点(可选) FunctionGraph应用中心的AI绘画应用中内置了默认模型,如需使用更多自定义模型和自定义节点进行AI绘画并保存生成的结果,需要在创建成功的应用中初始化自定义模型,并挂载文件系统为应用提供持续使用能力。 前提条件 完成部署AI绘画ComfyUI
函数模型介绍 本节内容主要介绍FunctionGraph函数模型和Trigger Management触发器模型的返回字段。通过提前熟悉返回字段的参数说明,方便您快速了解API接口的功能,详细信息请参考API。 FunctionGraph函数模型 函数Trigger Management触发器模型
在“文生图”标签下,输入相应的提示词和反向提示词(中英文均可),单击右侧的“生成”按钮,如图6所示,即可生成与提示词描述相符的图像。 图6 Stable Diffusion WebUI界面 通过上述步骤创建的应用,仅可使用应用内置的默认模型进行AI绘画,如果您需要使用更多自定义模型,需要为应用挂
求进行相应的部署操作。 快速部署:无需拥有深厚的技术背景,使用默认模型和临时域名快速部署Stable Diffusion模型,立即享受文生图的乐趣。 自定义域名:通过绑定自定义域名,将Stable Diffusion应用部署到自定义域名下开放内网或外网访问,实现更多的自定义功能。
购买ECS服务器 设置ECS下的NFS共享 在Stable Diffusion应用的函数中挂载ECS 上传与加载模型 进阶使用:通过挂载同一SFS文件系统实现多用户资源共享 如需实现多用户使用场景下的资源共享,各用户可以挂载同一个SFS Turbo文件系统,以实现文件系统内的模型资源共享,同时通
函数Trigger Management触发器模型 介绍Trigger Management触发器模型的返回字段。 触发器类型模型 { "trigger_type_code":"string", "display_name":"string", "status":"string"
求进行相应的部署操作。 快速部署:无需拥有深厚的技术背景,使用内置默认模型和临时域名快速部署,立即享受与AI对话的乐趣。 自定义模型:可以根据具体需求挂载文件系统上传自定义模型,搭配不同模型能力获得更个性化的对话效果。 进阶使用:本文还提供多用户使用场景下需要资源隔离的相关使用方法。
本例仅提供网络环境的配置指导,ComfyUI Manager相关操作方法请参考开源教程。 约束与限制 由于网络环境的不确定性,使用ComfyUI Manager在线安装自定义模型和节点可能失败,如需在FunctionGraph应用中心的AI绘画中使用自定义模型和节点,建议采用上传
本应用内置模型为ChatGLM3-6B大模型。如图4所示在文本框处输入文字(支持中英双语),单击下方的“Submit”,即可开始与AI进行对话。 图4 使用ChatGLM3进行AI对话 通过上述步骤创建的应用,仅可使用应用内置的模型进行AI对话,如果您需要使用更多自定义模型,需要为
使用FunctionGraph应用中心的AI对话ChatGLM3模板创建应用,即可使用内置默认模型和临时域名进行AI对话。 上传与使用自定义模型(可选) 如需使用自定义模型进行AI对话,还需进行以下操作: 创建SFS Turbo文件系统 初始化自定义模型挂载文件系统 上传与使用自定义模型 进阶使用:使用
支持用户同时使用多个大模型,已执行过的固定工作流无需重复计算即可生成图像,实现高效和精准的图像生成。 FLUX模型:FLUX模型是由Black Forest Labs推出的开源AI图像生成模型,以其卓越的生成图像质量和高度逼真的细节表现而著称。FLUX模型能够严格遵循提示词,高效输出更符合现实期望的高分辨率图像。
使用FunctionGraph应用中心的AI绘画ComfyUI模板,或AI绘画ComfyUI+FLUX模板创建应用,即可使用内置默认模型和临时域名进行AI绘画。 上传自定义模型和节点(可选) 如需使用自定义模型和自定义节点进行AI绘画,还需进行以下操作: 创建SFS Turbo文件系统 初始化自定义模型挂载文件系统
I工作流来体验FLUX模型的魅力。 在相应的Prompt节点输入提示词和反向提示词,如图5所示单击“Queue Prompt”按键,即可生成与提示词描述相符的图像。 图5 生成图像 通过上述步骤创建的应用,仅可使用应用内置的模型进行AI绘画,且无法保存生成的结果,如果您需要使用更
使用FunctionGraph部署AI绘画ComfyUI/ComfyUI+FLUX资源和成本规划 本实践根据使用需求的不同,涉及的计费服务有所不同,请参考表1根据具体需求规划资源与成本。 表1 资源和成本规划 资源 资源说明 计费说明 是否必须 函数工作流 FunctionGraph
进阶使用:通过挂载同一SFS文件系统实现多用户资源共享 应用场景 模型文件普遍占用大量内存,在多用户使用场景下,每个用户复制一份模型文件会导致不必要的存储空间浪费。通过将不同用户的应用挂载到同一SFS文件系统下,能够满足多人共享模型文件资源的需求,同时为了避免不同用户使用期间的推理结果相互影响,可以在Stable
生命周期内只成功执行一次函数初始化。函数初始化的执行时间也会被计量,用户需要为此付费,计费方式与函数的调用处理一致。 一般场景下,多个请求处理可以共享的业务逻辑适合放到初始化函数,以降低函数时延,例如深度学习场景下加载规格较大的模型、数据库场景下连接池构建。 约束与限制 函数初始化入口需要和函数执行入口在同一文件下。
例如深度学习场景下加载规格较大的模型、数据库场景下连接池构建、函数依赖库加载等等。 为了减小应用层冷启动对延时的影响,FunctionGraph推出了initializer接口,系统能识别用户函数的初始化逻辑,从而在调度上做相应的优化。 引入initializer接口的价值 分