华为云用户手册

  • 前提条件 已拥有华为云账号且已实名认证。 华为云账号未欠费,且有足够金额购买本案例所涉及的资源。 已创建OBS桶,用于存放打包好的依赖包文件,更多详情请参见创建桶。 开始使用本案例前请在本地安装好18.15.0版本的Node.js运行环境。 当前华为云 函数工作流 服务支持的Node.js运行时最高版本为18.15.0、Next.js支持最高版本为13.5.6,本案例将以Next.js版本为13.5.6举例介绍。
  • 步骤一:创建多用户配置文件 本示例以两个用户user1和user2的使用场景进行介绍,可根据实际需要增减用户数。 选择任一用户,进入已完成初始化自定义模型的Stable Diffusion应用详情界面,单击“上传模型”,登录后进入文件系统。 如图1所示,进入sd目录。 图1 进入sd目录 如图2所示,找到config.json文件,选中并复制到任意目录,此处仍置于sd目录下,重命名为config_user1.json。如图3所示,同样为用户user2复制一份,命名为config_user2.json。 图2 复制config.json文件 图3 复制生成config_user1.json和config_user2.json文件
  • 前提条件 每位用户的FunctionGraph云服务委托中需包含“SWR Admin”、“VPC Administrator”、“Server Administrator”、“SFS FullAccess”和“SFS Turbo FullAccess”权限。 每位用户均需完成部署和使用AI绘画Stable Diffusion应用步骤,应用创建成功。 每位用户均需使用同一个SFS文件系统完成初始化自定义模型挂载文件系统,所挂载的SFS文件系统下已存在sd目录。
  • 使用FunctionGraph部署AI对话ChatGLM3操作流程 表1介绍本实践中使用FunctionGraph部署AI对话ChatGLM3应用的总操作流程与说明,其中进阶使用流程主要面向具体的业务使用需求场景,请参考相关说明选择使用。 表1 部署AI对话ChatGLM3应用操作流程说明 操作流程 说明 部署AI对话ChatGLM3准备工作 在FunctionGraph应用中心部署AI对话ChatGLM3应用前,需完成以下准备工作: 提交工单申请加入WebSocket白名单 创建 虚拟私有云VPC 和子网 购买专享版APIG实例 为FunctionGraph创建云服务委托 部署和使用AI对话ChatGLM3应用 使用FunctionGraph应用中心的AI对话ChatGLM3模板创建应用,即可使用内置默认模型和临时 域名 进行AI对话。 上传与使用自定义模型(可选) 如需使用自定义模型进行AI对话,还需进行以下操作: 创建SFS Turbo文件系统 初始化自定义模型挂载文件系统 上传与使用自定义模型 进阶使用:使用E CS 作为NFS服务器实现多用户资源隔离 如需实现多用户使用场景下的资源隔离,FunctionGraph函数支持挂载ECS服务器作为文件系统来源,通过设置共享NFS路径可有效管理多用户模型资源,可通过以下操作实现: 购买ECS服务器 设置ECS下的NFS共享 在AI对话应用中挂载ECS 上传与使用自定义模型 父主题: 使用FunctionGraph部署AI对话ChatGLM3应用
  • 步骤一:申请加入WebSocket白名单 AI对话ChatGLM3应用需用到WebSocket特性,当前WebSocket特性处于公测阶段,使用应用前请先在工单系统中提交工单申请加入公测白名单。 选择问题所属产品:选择“函数工作流 (FunctionGraph)”。 选择问题类型:选择“函数列表”并新建工单。 新建工单:区域选择“华东-上海一”,问题描述填写“使用AI对话ChatGLM3应用,申请加入WebSocket特性公测白名单”,填写联系方式后提交工单。
  • 步骤四:为FunctionGraph创建云服务委托 使用FunctionGraph应用中心部署AI对话应用,需FunctionGraph服务与其他云服务协同。因此,部署前须配置委托,允许FunctionGraph使用必要的其他云服务资源。 登录 统一身份认证 服务控制台,左侧导航栏选择“委托”,进入“委托”页面后,右上角单击“创建委托”。 在“创建委托”页面,配置如下参数: 委托名称:填写“severless_trust”。 委托类型:选择“云服务”。 云服务:选择“函数工作流 FunctionGraph”。 持续时间:选择“永久”。 描述(可选):填写“AI对话应用”。 单击“完成”,系统提示创建成功,单击“立即授权”,进入“授权”界面。 在“选择策略”界面根据具体需求搜索表2中的策略并勾选,勾选完成后单击“下一步”。 表2 策略及相关说明 策略 策略权限说明 是否必选 SWR Admin 容器镜像服务 (SWR)管理员,拥有该服务下的所有权限。 必选。 VPC Administrator (系统将同时勾选该系统角色依赖的Server Administrator系统角色,无需手动取消) VPC Administrator:虚拟私有云服务管理员。 Server Administrator:服务器管理员。 必选。 SFS FullAccess 弹性文件服务所有权限。 上传和使用自定义模型挂载SFS文件系统时必选。 SFS Turbo FullAccess 弹性文件服务SFS Turbo的所有权限。 上传和使用自定义模型挂载SFS文件系统时必选。 如图1所示,在“设置最小授权范围”界面选择“指定区域项目资源”,勾选“cn-east-3 [华东-上海一]”,单击“确定”。 图1 指定区域项目资源 系统提示授权成功,即完成授权。
  • 步骤二:创建虚拟私有云VPC和子网 登录华为云网络控制台,单击“创建虚拟私有云”,进入“创建虚拟私有云”界面。 在“创建虚拟私有云”界面参考表1填写参数,其他参数保持默认即可。 表1 VPC和子网参数配置 参数类别 参数 参数说明 取值样例 基本信息 区域 必选参数。 VPC及其子网部署的区域。当前AI绘画应用仅支持在“华东-上海一”部署。 华东-上海一 名称 必选参数。 VPC的名称。要求如下: 长度范围为1~64位。 名称由中文、英文字母、数字、下划线(_)、中划线(-)、点(.)组成。 vpc-fg IPv4网段 必选参数。 设置VPC的IPv4网段范围,可以根据页面建议选择,VPC网段的选择需要考虑以下两点: IP地址数量:要为业务预留足够的IP地址,防止业务扩展给网络带来冲击。 IP地址网段:当前VPC与其他VPC、云下数据中心连通时,要避免网络两端的IP地址冲突,否则无法正常通信。 192.168.x.x/16 企业项目 必选参数。 企业项目管理提供了一种按企业项目管理云资源的方式,帮助您实现以企业项目为基本单元的资源及人员的统一管理,默认项目为default。 default 子网设置1 子网名称 必选参数。 子网的名称。要求如下: 长度范围为1~64位。 名称由中文、英文字母、数字、下划线(_)、中划线(-)、点(.)组成。 subnet-fg 可用区 必选参数。 在同一VPC网络内可用区与可用区之间内网互通,可用区之间能做到物理隔离。如业务需求高推荐选择多个可用区,本例以选择一个可用区为例。 可用区1(center) 子网IPv4网段 必选参数。 子网的IPv4网段范围。子网的网段必须在VPC网段范围内,子网网段的掩码长度范围为“子网所在VPC的掩码~29”,可以根据页面建议选择。 192.168.x.x/24 参数配置完成后,单击“立即创建”,完成虚拟私有云VPC和子网的创建。
  • 步骤一:购买ECS服务器 进入购买ECS服务器页面,购买过程中请参照以下注意事项。实例类型可根据业务需要自行选择,其他参数可参考设置ECS购买参数。 基础配置:如图1所示,本示例使用“按需计费”,区域选择“华东-上海一”。 图1 基础配置 操作系统:本示例镜像选用EulerOS 2.5 64bit(40GiB)。 不同镜像版本下,部分Linux命令可能存在差异。 储存与备份:鉴于多数模型文件的大小在1GB到10GB以上,建议依据具体需求选择系统盘容量,并参考图2新增数据盘进行挂载。 图2 系统盘选择 网络:虚拟私有云与主网卡请选择创建虚拟私有云VPC和子网中所创建VPC与子网,如图3所示。 图3 网络配置 安全组:请参考图4新建安全组,入方向规则允许子网内IP访问端口111、2049、2051、2052、20048以支持NFS服务;其他端口,如22端口用于SSH和SFTP、21端口用于FTP等,具体协议端口和源地址请根据实际需要配置。 图4 安全组设置 公网访问:请根据实际需求购买弹性公网IP并设置带宽大小。
  • 免责声明 本应用使用到的Stable-Diffusion、ComfyUI以及镜像构建工程等项目均为社区开源项目,关于开源项目的问题还需用户到开源社区寻求帮助或者自行解决,华为云仅提供算力支持。 本实践仅作为简易示例供用户参考和学习,如需应用于实际生产环境,请参考镜像构建工程自行完善和优化。使用过程中遇到的函数工作流问题,可通过提交工单进行咨询。 本应用部署后会为您创建APIG网关,根据有关规定,建议在应用创建成功后根据提示绑定自定义域名,使用您的自有域名访问应用界面。 父主题: 使用FunctionGraph部署AI绘画ComfyUI/ComfyUI+FLUX应用
  • 步骤一:使用AI对话模板创建应用 登录函数工作流控制台,区域选择“华东-上海一”。在左侧导航栏选择“应用中心”,单击“创建应用”,进入模板选择页面。 如图1所示,找到“AI对话ChatGLM3”模板,单击“使用模板”,请仔细阅读弹出的说明后进行勾选操作,单击“同意并继续创建”。 图1 AI对话ChatGLM3模板 如果系统弹出“服务开通”提示弹窗,请阅读说明后单击“立即开通”。 进入“应用配置”页面,填写应用基本信息和参数配置信息: 应用名称:自定义填写或使用默认名称,本例使用默认名称。 委托名称:选择创建的“severless_trust”委托。 模式选择:选择“WebUI”。 APIG实例:选择步骤三:购买专享版APIG实例创建的APIG实例。 填写完成后如图2所示,单击“立即创建”。 图2 AI对话ChatGLM3应用配置 等待应用创建完成,创建成功的应用包含函数服务和专享版API网关资源,其中函数服务的关键资源功能说明请参考表1。 为方便快速体验,应用中心会为您分配一个临时域名,此临时域名仅可用于测试使用,有效期30天。若想开放应用长期访问,需在应用总览页面的域名提示信息中单击“去绑定”为应用绑定自定义域名,具体操作方案请参考配置API的调用域名。 表1 关键函数服务功能 函数资源逻辑名称 功能说明 chatglm 对话语言模型功能主体,可通过其APIG触发器访问ChatGLM3 WebUI界面。 custom_models_tool 可通过其APIG触发器管理自定义模型资源。
  • 步骤二:使用默认模型和临时域名进行AI对话 如图3所示,单击应用详情界面的“开始使用”,进入ChatGLM3 WebUI界面。首次加载冷启动时间会持续30s左右,请耐心等待,如遇到加载超时问题,可以通过刷新页面解决。 图3 开始使用 本应用内置模型为ChatGLM3-6B大模型。如图4所示在文本框处输入文字(支持中英双语),单击下方的“Submit”,即可开始与AI进行对话。 图4 使用ChatGLM3进行AI对话 通过上述步骤创建的应用,仅可使用应用内置的模型进行AI对话,如果您需要使用更多自定义模型,需要为应用挂载外部文件系统,操作步骤请参考上传与使用自定义模型(可选)。
  • 应用场景 在使用ComfyUI进行AI绘图的过程中,常需要对模型和节点进行管理,ComfyUI Manager是一个具备集成功能和便利的扩展工具,用户可使用ComfyUI Manager工具在线安装与管理各类插件。在FunctionGraph中使用ComfyUI Manager,需要公网NAT网关和弹性公网IP提供公网访问能力,本例仅提供网络环境的配置指导,ComfyUI Manager相关操作方法请参考开源教程。
  • 配置网络环境 进入华为云网络控制台的公网NAT网关列表,单击右上角“购买公网NAT网关”,配置参考表1,填写完成后如图1所示,单击“立即购买”。 表1 公网NAT网关参数配置 参数 参数说明 取值样例 区域 必选参数。 公网NAT网关所在的区域。当前AI绘画应用仅支持华东-上海一区域。 华东-上海一 计费模式 必选参数。 按需计费:按天计费,适用于灵活使用场景。 包年/包月:适用于可预估资源使用周期的场景。 按需计费 规格 必选参数。 公网NAT网关的规格。根据SNAT最大连接数区分,请根据业务需求选择。 小型 名称 必选参数。 公网NAT网关名称。最大支持64个字符,仅支持中文、数字、字母、_(下划线)、-(中划线)、.(点号)。 nat-fg 虚拟私有云 必选参数。 公网NAT网关所属的VPC。请选择创建虚拟私有云VPC和子网中创建的VPC。 vpc-fg 子网 必选参数。 公网NAT网关所属VPC中的子网。请选择创建虚拟私有云VPC和子网中创建的子网。 subnet-fg(192.168.x.x/24) 企业项目 必选参数。 配置公网NAT网关归属的企业项目。没有指定企业项目时,使用默认项目default。 default 进入华为云网络控制台的弹性公网IP列表为公网NAT网关配置弹性公网IP,配置参考表2,填写完成后单击“立即购买”。 表2 弹性公网IP参数配置 参数类别 参数 参数说明 取值样例 基础配置 计费模式 必选参数。 按需计费:分为按带宽计费、按流量计费和加入共享带宽三种计费场景。 包年/包月:适用于可预估资源使用周期的场景。 按需计费 区域 必选参数。 EIP所在的区域。当前AI绘画应用仅支持华东-上海一区域。 华东-上海一 带宽配置 线路 必选参数。 EIP的线路模式。 全动态BGP:可以根据设定的寻路协议实时自动优化网络结构,以保持客户使用的网络持续稳定、高效。 静态BGP:网络结构发生变化时,无法实时自动调整网络设置以保障用户体验。 优选BGP:是特定方向的优质线路。该线路资源仅在“中国-香港”区域支持。 全动态BGP 公网带宽 必选参数。 选择按需计费时,需要选择公网带宽的计费方式。 按带宽计费:指定带宽上限,按使用时间计费,与使用的流量无关。适用于流量较大或较稳定场景使用。 按流量计费:指定带宽上限,按实际使用的出公网流量计费,与使用时间无关。适用于流量小或流量波动较大的场景。 加入共享带宽:带宽可以加入多个弹性公网IP,带宽被多个弹性公网IP地址共用。适用于多业务流量错峰分布场景。 按流量计费 带宽大小 必选参数。 公网带宽大小,单位Mbit/s。按流量计费时可将带宽拉至最大。 300 带宽名称 必选参数。 带宽的名称。由中文、英文字母、数字、下划线、中划线、点组成。 bandwidth-fg DDoS防护 DDoS防护 必选参数。 免费提供不高于5Gbps的DDoS攻击防护,如超过防护阈值,EIP会被封堵。 DDoS原生基础防护 弹性公网IP配置 弹性公网IP名称 必选参数。 EIP的名称。由中文、英文字母、数字、下划线、中划线、点组成。 fg-ip 企业项目 必选参数。 配置EIP归属的企业项目。没有指定企业项目时,使用默认项目default。 default IPv6转换 可选参数。 开启IPv6转换后,将提供IPv4和IPv6弹性公网IP地址,原有IPv4业务可以快速为IPv6用户提供访问能力。 保持默认,不开启。 标签 可选参数。 用于标识弹性公网IP地址。包括键和值。 保持默认,不添加。 请参考添加SNAT规则为NAT网关添加SNAT规则。 网络环境配置完成后,进入应用的ComfyUI界面,单击“Manager”开始使用ComfyUI Manager。 图1 使用ComfyUI Manager
  • 免责声明 本应用使用到的ChatGLM3以及镜像构建工程等项目均为社区开源项目,关于开源项目的问题还需用户到开源社区寻求帮助或者自行解决,华为云仅提供算力支持。 本实践仅作为简易示例供用户参考和学习,如需应用于实际生产环境,请参考镜像构建工程自行完善和优化。使用过程中遇到的函数工作流问题,可通过提交工单进行咨询。 本应用部署后会为您创建APIG网关,根据有关规定,建议在应用创建成功后根据提示绑定自定义域名,使用您的自有域名访问应用界面。 父主题: 使用FunctionGraph部署AI对话ChatGLM3应用
  • 使用FunctionGraph部署AI绘画ComfyUI/ComfyUI+FLUX操作流程 表1介绍本实践中使用FunctionGraph部署AI绘画ComfyUI应用和AI绘画ComfyUI+FLUX应用的总操作流程与说明,其中进阶使用流程主要面向具体的业务使用需求场景,请参考相关说明选择使用。 AI绘画ComfyUI应用和AI绘画ComfyUI+FLUX应用仅内置默认模型不同,使用FunctionGraph应用中心部署的操作流程相同。 表1 部署AI绘画应用操作流程说明 操作流程 说明 部署AI绘画ComfyUI/ComfyUI+FLUX准备工作 在FunctionGraph应用中心部署AI绘画ComfyUI应用和AI绘画ComfyUI+FLUX应用前,需完成以下准备工作: 提交工单申请加入WebSocket白名单 创建虚拟私有云VPC和子网 购买专享版APIG实例 为FunctionGraph创建云服务委托 部署和使用AI绘画ComfyUI/ComfyUI+FLUX应用 使用FunctionGraph应用中心的AI绘画ComfyUI模板,或AI绘画ComfyUI+FLUX模板创建应用,即可使用内置默认模型和临时域名进行AI绘画。 上传自定义模型和节点(可选) 如需使用自定义模型和自定义节点进行AI绘画,还需进行以下操作: 创建SFS Turbo文件系统 初始化自定义模型挂载文件系统 上传与加载自定义模型和节点 进阶使用:使用ECS作为NFS服务器实现多用户资源隔离 如需实现多用户使用场景下的资源隔离,FunctionGraph函数支持挂载ECS服务器作为文件系统来源,通过设置共享NFS路径可有效管理多用户模型资源,可通过以下操作实现: 购买ECS服务器 设置ECS下的NFS共享 在AI绘画应用中挂载ECS 上传自定义模型和节点 进阶使用:使用ComfyUI Manager在线安装自定义模型和节点 如需在FunctionGraph中使用ComfyUI Manager在线安装自定义模型和节点,需要购买公网NAT网关和弹性公网IP以提供公网访问能力。 父主题: 使用FunctionGraph部署AI绘画ComfyUI/ComfyUI+FLUX应用
  • 步骤二:创建虚拟私有云VPC和子网 登录华为云网络控制台,单击“创建虚拟私有云”,进入“创建虚拟私有云”界面。 在“创建虚拟私有云”界面参考表1填写参数,其他参数保持默认即可。 表1 VPC和子网参数配置 参数类别 参数 参数说明 取值样例 基本信息 区域 必选参数。 VPC及其子网部署的区域。当前AI绘画应用仅支持在“华东-上海一”部署。 华东-上海一 名称 必选参数。 VPC的名称。要求如下: 长度范围为1~64位。 名称由中文、英文字母、数字、下划线(_)、中划线(-)、点(.)组成。 vpc-fg IPv4网段 必选参数。 设置VPC的IPv4网段范围,可以根据页面建议选择,VPC网段的选择需要考虑以下两点: IP地址数量:要为业务预留足够的IP地址,防止业务扩展给网络带来冲击。 IP地址网段:当前VPC与其他VPC、云下数据中心连通时,要避免网络两端的IP地址冲突,否则无法正常通信。 192.168.x.x/16 企业项目 必选参数。 企业项目管理提供了一种按企业项目管理云资源的方式,帮助您实现以企业项目为基本单元的资源及人员的统一管理,默认项目为default。 default 子网设置1 子网名称 必选参数。 子网的名称。要求如下: 长度范围为1~64位。 名称由中文、英文字母、数字、下划线(_)、中划线(-)、点(.)组成。 subnet-fg 可用区 必选参数。 在同一VPC网络内可用区与可用区之间内网互通,可用区之间能做到物理隔离。如业务需求高推荐选择多个可用区,本例以选择一个可用区为例。 可用区1(center) 子网IPv4网段 必选参数。 子网的IPv4网段范围。子网的网段必须在VPC网段范围内,子网网段的掩码长度范围为“子网所在VPC的掩码~29”,可以根据页面建议选择。 192.168.x.x/24 参数配置完成后,单击“立即创建”,完成虚拟私有云VPC和子网的创建。
  • 步骤四:为FunctionGraph创建云服务委托 使用FunctionGraph应用中心部署AI绘画应用,需FunctionGraph服务与其他云服务协同。因此,部署前须配置委托,允许FunctionGraph使用必要的其他云服务资源。 登录统一身份认证服务控制台,左侧导航栏选择“委托”,进入“委托”页面后,右上角单击“创建委托”。 在“创建委托”页面,配置如下参数: 委托名称:填写“severless_trust”。 委托类型:选择“云服务”。 云服务:选择“函数工作流 FunctionGraph”。 持续时间:选择“永久”。 描述(可选):填写“AI绘画应用”。 单击“完成”,系统提示创建成功,单击“立即授权”,进入“授权”界面。 在“选择策略”界面根据具体需求搜索表2中的策略并勾选,勾选完成后单击“下一步”。 表2 策略及相关说明 策略 策略权限说明 是否必选 SWR Admin 容器 镜像服务 (SWR)管理员,拥有该服务下的所有权限。 必选。 VPC Administrator (系统将同时勾选该系统角色依赖的Server Administrator系统角色,无需手动取消) VPC Administrator:虚拟私有云服务管理员。 Server Administrator:服务器管理员。 必选。 SFS FullAccess 弹性文件服务所有权限。 上传和使用自定义模型和节点挂载SFS文件系统时必选。 SFS Turbo FullAccess 弹性文件服务SFS Turbo的所有权限。 上传和使用自定义模型和节点挂载SFS文件系统时必选。 如图1所示,在“设置最小授权范围”界面选择“指定区域项目资源”,勾选“cn-east-3 [华东-上海一]”,单击“确定”。 图1 指定区域项目资源 系统提示授权成功,请等待委托生效。
  • 步骤一:提交工单申请加入WebSocket白名单 AI绘画ComfyUI应用和AI绘画ComfyUI+FLUX应用需用到WebSocket特性,当前WebSocket特性处于公测阶段,使用应用前请先在工单系统中提交工单申请加入公测白名单。 选择问题所属产品:选择“函数工作流 (FunctionGraph)”。 选择问题类型:选择“函数列表”并新建工单。 新建工单:区域选择“华东-上海一”,问题描述填写“使用AI绘画ComfyUI应用和AI绘画ComfyUI+FLUX应用,申请加入WebSocket特性公测白名单”,填写联系方式后提交工单。
  • 步骤一:购买ECS服务器 进入购买ECS服务器页面,购买过程中请参照以下注意事项。实例类型可根据业务需要自行选择,其他参数可参考设置ECS购买参数。 基础配置:如图1所示,本示例使用“按需计费”,区域选择“华东-上海一”。 图1 基础配置 操作系统:本示例镜像选用EulerOS 2.5 64bit(40GiB)。 不同镜像版本下,部分Linux命令可能存在差异。 储存与备份:鉴于多数模型文件的大小在1GB到10GB以上,建议依据具体需求选择系统盘容量,并参考图2新增数据盘进行挂载。 图2 系统盘选择 网络:虚拟私有云与主网卡请选择创建虚拟私有云VPC和子网中所创建VPC与子网,如图3所示。 图3 网络配置 安全组:请参考图4新建安全组,入方向规则允许子网内IP访问端口111、2049、2051、2052、20048以支持NFS服务;其他端口,如22端口用于SSH和SFTP、21端口用于FTP等,具体协议端口和源地址请根据实际需要配置。 图4 安全组设置 公网访问:请根据实际需求购买弹性公网IP并设置带宽大小。
  • 步骤二:初始化自定义模型挂载文件系统 登录函数工作流控制台,区域选择“华东-上海一”。在左侧导航栏选择“应用中心”,单击创建成功且需初始化的应用名称,进入应用详情页面。 在应用详情页面,如图1所示单击“初始化自定义模型”,请仔细阅读弹出的说明后进行勾选操作,单击“确定”弹出初始化窗口。 图1 初始化自定义模型 在“初始化自定义模型”窗口填写如下参数: VPC:选择“vpc-fg(192.168.x.x/16)”。 子网:选择“subnet-fg(192.168.x.x/24)”。 文件系统来源:选择“SFS Turbo”。 文件系统名称:选择“sfs-turbo-fg”。 其他参数保持默认,如图2所示,配置完成后单击“确定”。 图2 初始化自定义模型 返回应用详情界面,“初始化自定义模型”按键变更为“上传模型”按键即初始化成功,单击“开始使用”进入ComfyUI界面,系统将在文件系统中自动创建与部署应用所需的目录和文件。 成功进入ComfyUI界面后无需进行操作,可关闭页面避免产生额外费用,此操作用于加载文件系统中的目录和文件,便于后续上传自定义模型和自定义节点。
  • 步骤一:创建SFS Turbo文件系统 登录华为云弹性文件服务控制台,选择“SFS Turbo”,单击“创建文件系统”,进入“创建文件系统”界面。 在“创建文件系统”界面,参考表1填写参数,其他参数保持默认即可,如需使用其他参数请参考创建SFS Turbo文件系统。 表1 文件系统参数说明 参数 参数说明 取值样例 计费模式 必选参数。 按需计费:适用于灵活使用场景。 包年/包月:适用于可预估资源使用周期的场景。 按需计费 区域 必选参数。 文件系统部署的区域。当前AI绘画应用仅支持在“华东-上海一”部署,且需与创建的虚拟私有云VPC保持一致。 华东-上海一 项目 必选参数。 项目部署的区域。根据区域选择默认同步设置。 华东-上海一(默认) 可用区 必选参数。 与创建的子网可用区保持一致。 可用区1 类型 必选参数。 根据推荐场景和实际情况选择文件系统类型和性能。本例支持选择所有文件系统类型,推荐选择适合大多数使用场景的 250 MB/s/TiB类型。 250 MB/s/TiB 容量 必选参数。 单个文件系统的最大容量。请根据实际需求选择,输入值应位于1.2至1023.6的区间内且必须为1.2的整数倍。 1.2 企业项目 必选参数。 与创建虚拟私有云VPC时的选择保持一致。 default 选择网络 必选参数。 文件系统所属的VPC和子网。选择创建虚拟私有云VPC和子网中创建的VPC与子网。 vpc-fg; subnet-fg(192.168.x.x/24) 名称 必选参数。 文件系统的名称。要求如下: 长度范围为4~64位,并以字母开头。 只能由英文字母、数字、下划线“_”和中划线“-”组成。 sfs-turbo-fg 其他参数保持默认即可。 参数配置完成后,单击“立即创建”,再次确认信息后单击“提交”,等待文件系统创建任务提交成功即可。
  • 步骤三:上传与加载自定义模型和节点 关闭ComfyUI页面,返回应用详情界面,单击“上传模型”进入文件管理页面,默认用户名和密码均为“admin”,登录后请在“设置”页签修改密码,保证数据安全。 与上传自定义模型和自定义节点相关的部分关键目录如表2所示,可将模型和节点文件上传到对应目录下。 表2 部分关键目录路径 路径 用途 comfyui/models 保存ComfyUI的各类模型文件。 comfyui/custom_nodes 保存ComfyUI的自定义节点。 comfyui/outputs 保存图片生成结果。 上传完成后,单击“开始使用”进入ComfyUI界面,即可使用上传的自定义模型和节点进行AI绘画操作。加载过程可能耗时较长,请耐心等待。
  • 使用FunctionGraph部署AI绘画ComfyUI/ComfyUI+FLUX资源和成本规划 本实践根据使用需求的不同,涉及的计费服务有所不同,请参考表1根据具体需求规划资源与成本。 表1 资源和成本规划 资源 资源说明 计费说明 是否必须 函数工作流 FunctionGraph 函数类型:容器镜像HTTP函数 区域:华东-上海一 购买量:2(应用创建成功后自动生成函数) 计费模式:按需计费。 函数工作流提供免费试用,每月前100万次调用免费。具体计费项及说明请参考函数工作流按需计费说明。 必须。 虚拟私有云 VPC 区域:华东-上海一 子网数量:1 安全组数量:1 购买量:1 虚拟私有云:免费。 子网:免费。 安全组:免费。 必须。 API网关 APIG 版本:专享版API网关 区域:华东-上海一 公网入口:开启 购买量:1 计费模式:本例使用按需计费。 实例规格和入公网带宽请根据业务需求选择,具体计费项及标准请参考专享版APIG按需计费说明。 必须。 弹性文件服务 SFS 区域:华东-上海一 文件系统类型:SFS Turbo文件系统 在售 类型:本例使用250MB/S/TiB 容量:1.2 TB 购买量:1 计费模式:本例使用按需计费。 具体计费项请参考弹性文件服务按需计费说明,价格详情请参见弹性文件服务价格详情。 上传和使用自定义模型和自定义节点时必须。 弹性云服务器 ECS 区域:华东-上海一 操作系统:公共镜像 EulerOS 2.5 64bit(40GiB) 购买量:1 计费模式:本例使用按需计费。 实例类型、存储规格请根据业务需求选择,具体计费项及标准请参考弹性云服务器按需计费说明,价格详情请参见弹性 云服务器价格 详情。 使用ECS作为NFS服务器时必须。 NAT网关 NAT 网关类型:公网NAT网关 区域:华东-上海一 规格:小型 购买量:1 计费模式:本例使用按需计费。 规格请根据业务需求选择,具体计费项及标准请参考NAT网关按需计费说明。 使用ComfyUI Manager在线安装自定义模型和自定义节点时必须。 弹性公网IP EIP 区域:华东-上海一 线路:全动态BGP 购买量:1 计费模式:本例使用按需计费。 公网带宽:按流量计费。 具体计费项及标准请参考弹性公网IP按需计费说明。 使用ComfyUI Manager在线安装自定义模型和自定义节点时必须。 父主题: 使用FunctionGraph部署AI绘画ComfyUI/ComfyUI+FLUX应用
  • 使用FunctionGraph部署AI绘画Stable Diffusion资源和成本规划 本实践根据使用需求的不同,涉及的计费服务有所不同,请参考表1根据具体需求规划资源与成本。 表1 资源和成本规划 资源 资源说明 计费说明 是否必须 函数工作流 FunctionGraph 函数类型:容器镜像HTTP函数 区域:华东-上海一 购买量:2(应用创建成功后自动生成函数) 计费模式:按需计费。 函数工作流提供免费试用,每月前100万次调用免费。具体计费项及说明请参考函数工作流按需计费说明。 必须。 域名注册服务 Domains 可自定义配置域名 购买量:1 不同后缀的域名注册、续费、赎回和转入的价格各异,计费详情请参考域名注册服务计费说明。 使用华为云域名注册服务注册新域名,以绑定Stable Diffusion应用进行访问时必须。 云解析服务 DNS 解析公网域名 免费。 使用华为云云解析服务进行公网域名解析时必须。 虚拟私有云 VPC 区域:华东-上海一 子网数量:1 购买量:1 虚拟私有云:免费。 子网:免费。 使用自定义模型和多用户使用时必须。 弹性文件服务 SFS 区域:华东-上海一 文件系统类型:SFS Turbo文件系统 在售 类型:本例使用250MB/S/TiB 容量:1.2 TB 购买量:1 计费模式:本例使用按需计费。 具体计费项请参考弹性文件服务按需计费说明,价格详情请参见弹性文件服务价格详情。 上传和使用自定义模型时必须。 弹性云服务器 ECS 区域:华东-上海一 操作系统:公共镜像 EulerOS 2.5 64bit(40GiB) 安全组数量:1 购买量:1 计费模式:本例使用按需计费。 创建安全组:免费。 实例类型、存储规格和是否开启公网访问请根据业务需求选择,具体计费项及标准请参考弹性云服务器按需计费说明,价格详情请参见弹性云服务器价格详情。 使用ECS作为NFS服务器时必须。 API网关 APIG 版本:专享版API网关 区域:华东-上海一 购买量:1 计费模式:根据业务需求选择包年/包月或按需计费。 具体计费方式及标准请参考专享版API网关计费模式概述,价格详情请参见API网关价格详情。 业务需求量大改用专享版APIG触发器使用应用时必须。 父主题: 使用FunctionGraph部署AI绘画Stable Diffusion应用
  • AI绘画ComfyUI/ComfyUI+FLUX及其应用场景 ComfyUI:在使用大模型能力进行AI绘画时,生成满意的图像往往需要多次调整参数和管理模型,若未能复刻文生图流程中的每一处细节,则生成的图像难以复现。ComfyUI提供了一个基于节点流程的图形用户界面,通过拖拽连线组合不同功能的节点,实现文生图工作流的灵活定制与可靠复现,ComfyUI还支持用户同时使用多个大模型,已执行过的固定工作流无需重复计算即可生成图像,实现高效和精准的图像生成。 FLUX模型:FLUX模型是由Black Forest Labs推出的开源AI图像生成模型,以其卓越的生成图像质量和高度逼真的细节表现而著称。FLUX模型能够严格遵循提示词,高效输出更符合现实期望的高分辨率图像。
  • 快照冷启动 Java应用冷启动速度慢的问题尤为突出。华为云FunctionGraph创新提出的基于进程级快照的冷启动加速解决方案,致力于在用户无感知(无需/少量进行代码适配)的前提下,帮助用户突破冷启动的性能瓶颈。本优化方案直接从应用初始化后的快照进行运行环境恢复,跳过复杂的框架、业务初始化阶段,从而显著降低Java应用的启动时延,实测性能提升达90%+。 用户使用Java函数可以打开冷启动快照加速的配置开关,详情请参见配置快照式冷启动。华为云FunctionGraph会预先执行函数对应的初始化代码,获取其初始化执行上下文环境的快照,并进行加密缓存。后续调用该函数并触发冷启动扩容时,会直接从提前初始化后的应用快照来恢复执行环境,而非重新走一遍初始化流程,以此达到极大提升启动性能的效果。
  • 精简代码大小和镜像瘦身 由于FunctionGraph在冷启动的时候会下载函数代码,下载代码的过程也会影响启动时间。如果代码包太大,下载时间将会变长,导致增加FunctionGraph的启动时间;如果使用 自定义镜像 函数,镜像越大,启动时间也会越长。所以,为了降低冷启动时间,可以对应用程序进行瘦身,比如在程序中移除不必要的代码、减少不必要的第三方库依赖等。例如,在Node.js中执行“npm prune”命令、在Python中执行“autoflake”。另外,某些第三方库中可能会包含测试用例源代码、无用的二进制文件和数据文件等,删除无用文件可以降低函数代码下载和解压时间。
  • 创建程序包 本例使用Python语言实现为图片打水印的功能,有关函数开发的过程请参考Python函数开发。本例不再介绍业务功能实现的代码,样例代码目录如图1所示。 图1 样例代码目录 其中index.py为函数执行的入口文件,index.py中入口函数的代码片段如下,参数“obs_output_bucket”为打水印后的图片存储地址,需要在创建函数时配置自定义参数。 1 2 3 4 5 6 7 8 91011121314 def handler(event, context): srcBucket, srcObjName = getObjInfoFromObsEvent(event) outputBucket = context.getUserData('obs_output_bucket') client = newObsClient(context) # download file uploaded by user from obs localFile = "/tmp/" + srcObjName downloadFile(client, srcBucket, srcObjName, localFile) outFileName, outFile = watermark_image(localFile, srcObjName) # 将转换后的文件上传到新的obs桶中 uploadFileToObs(client, outputBucket, outFileName, outFile) return 'OK'
  • 使用FunctionGraph部署AI绘画Stable Diffusion操作流程 表1介绍本实践中使用FunctionGraph部署AI绘画Stable Diffusion应用的操作流程与说明,其中进阶使用流程主要面向具体的业务使用需求场景,请参考相关说明选择使用。 表1 部署AI绘画Stable Diffusion应用操作流程说明 操作流程 说明 部署和使用AI绘画Stable Diffusion应用 使用FunctionGraph应用中心的AI绘画Stable Diffusion模板创建应用,即可使用默认模型和临时域名进行AI绘画。 绑定自定义域名(可选) 如需绑定自定义域名访问AI绘画应用,还需进行以下操作: 准备自定义域名 配置域名解析 绑定自定义域名 上传自定义模型(可选) 如需使用自定义模型进行AI绘画,还需进行以下操作: 创建虚拟私有云VPC和子网 创建SFS Turbo文件系统 初始化自定义模型挂载文件系统 上传与加载自定义模型 进阶使用:使用ECS作为NFS服务器实现多用户资源隔离 如需实现多用户使用场景下的资源隔离,FunctionGraph函数支持挂载ECS服务器作为文件系统来源,通过设置共享NFS路径可有效管理多用户模型资源,可通过以下操作实现: 购买ECS服务器 设置ECS下的NFS共享 在Stable Diffusion应用的函数中挂载ECS 上传与加载模型 进阶使用:通过挂载同一SFS文件系统实现多用户资源共享 如需实现多用户使用场景下的资源共享,各用户可以挂载同一个SFS Turbo文件系统,以实现文件系统内的模型资源共享,同时通过设置个人应用的结果保存路径实现推理结果隔离,可通过以下操作实现: 创建多用户配置文件 修改环境变量使用新配置文件 修改结果保存路径 进阶使用:使用专享版APIG触发器提升性能 如遇业务需求量大,建议将函数触发器改用为专享版APIG触发器,可通过以下操作实现: 购买专享版APIG实例 配置专享版APIG触发器 修改触发器后端超时时间 为函数的APIG组绑定域名 进阶使用:启用WebUI认证 如需加强应用使用的安全性,可以通过配置函数环境变量的方式启用WebUI认证,访问WebUI时将需要输入用户名和密码才可以进行绘图操作。 进阶使用:使用API模式访问应用 如需使用API模式访问应用,可以通过配置函数环境变量的方式启用并配置并发参数。 父主题: 使用FunctionGraph部署AI绘画Stable Diffusion应用
  • 告警消息推送 在 SMN 消息通知服务创建主题,此处以主题名称cts_test为例,创建过程请参考创建主题。 在SMN 消息通知 服务订阅主题,用于将告警消息推送至该主题下的订阅终端,此处以添加邮件订阅终端为例,订阅cts_test主题,订阅过程请参考订阅主题。 订阅主题可选择通过邮件、短信、HTTP/HTTPS等形式推送告警消息。 本案例中推送告警消息的事件是:当日志事件通过 CTS 触发器触发函数执行时,函数中过滤白名单告警日志,产生的告警消息推送至SMN主题的订阅终端。
共99354条