检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
使用FunctionGraph部署AI对话ChatGLM3操作流程 表1介绍本实践中使用FunctionGraph部署AI对话ChatGLM3应用的总操作流程与说明,其中进阶使用流程主要面向具体的业务使用需求场景,请参考相关说明选择使用。 表1 部署AI对话ChatGLM3应用操作流程说明
进入函数详情页,如图7所示单击“设置 > 网络配置”,打开“函数访问VPC内资源”开关并配置VPC和子网,请选择步骤一:购买ECS服务器中使用的VPC和子网,其余参数保持默认,单击“保存”。 图7 网络配置 在“设置”页签的左侧导航栏中,单击“磁盘挂载 > 添加挂载”,配置完成后单击“确定”。 文件系统来源:选择“ECS”。
使用FunctionGraph部署AI对话ChatGLM3资源和成本规划 本实践根据使用需求的不同,涉及的计费服务有所不同,请参考表1根据具体需求规划资源与成本。 表1 资源和成本规划 资源 资源说明 计费说明 是否必须 函数工作流 FunctionGraph 函数类型:容器镜像HTTP函数
模型为ChatGLM3-6B,使用FunctionGraph应用中心部署AI对话ChatGLM3应用,可根据具体使用需求进行相应的部署操作。 轻松部署:无需拥有深厚的技术背景,使用内置默认模型和临时域名快速部署,立即享受与AI对话的乐趣。 自定义模型:可以根据具体需求挂载文件系统
使用Serverless CLI工具,可以将项目打包,而无需将其部署到华为云。这最好与CI/CD工作流一起使用,以确保可部署产物一致。 运行以下命令将在服务的.serverless目录中构建和保存所有部署产物: serverless package 打包配置 有时,您可能希望对函数产物以及它们的打包方式有更多的控制。
高效输出更符合现实期望的高分辨率图像。 使用FunctionGraph应用中心部署AI绘画ComfyUI应用和AI绘画ComfyUI+FLUX应用,可根据具体使用需求进行相应的部署操作。 快速部署:无需拥有深厚的技术背景,AI绘画ComfyUI应用已内置sd-v1-5-inpainting
添加事件源 选择准备中开通的CTS云审计服务,创建CTS触发器,CTS触发器配置如图1所示。 图1 创建CTS触发器 CTS云审计服务监听IAM服务中user资源类型,监听login、logout操作。 父主题: 使用FunctionGraph函数和CTS识别非法IP的登录登出操作
默认模型不同,使用FunctionGraph应用中心部署的操作流程相同。 表1 部署AI绘画应用操作流程说明 操作流程 说明 部署AI绘画ComfyUI/ComfyUI+FLUX准备工作 在FunctionGraph应用中心部署AI绘画ComfyUI应用和AI绘画ComfyUI+FLUX应用前,需完成以下准备工作:
同步调用执行失败,需要自行重试。 异步调用 异步调用可配置最大重试次数和消息最大有限期,具体配置方法请参见配置函数的异步调用策略。 FunctionGraph会根据配置的最大重试次数和消息最大有限期(最大有限期为24小时)进行重试。重试次数和配置的最大重试次数一致,重试有效期和配置的消息最大有效期一致。 幂等性
Manager在线安装自定义模型和自定义节点时必须。 弹性公网IP EIP 区域:华东-上海一 线路:全动态BGP 购买量:1 计费模式:本例使用按需计费。 公网带宽:按流量计费。 具体计费项及标准请参考弹性公网IP按需计费说明。 使用ComfyUI Manager在线安装自定义模型和自定义节点时必须。
自动化部署 部署环境准备 使用CodeArts托管函数代码 deploy.py代码示例 cam.yaml解析
FunctionGraph函数初始化入口 在示例代码中,initializer方法内创建Redis客户端,并在创建函数时配置了初始化函数,如下: def initializer(context): global redis_client redis_client =
函数的URN,详细解释见FunctionGraph函数模型的描述。 表2 Query参数 参数 是否必选 参数类型 描述 config 否 Boolean 是否导出函数配置,默认为false。若无type参数,则必填code=true或config=true至少一项。 缺省值:false code 否 Boolean
timeout: 5000 注意事项 在进行资源部署时,会涉及到一定的特殊情况,可以参考以下描述: 只需要部署/更新代码,可以增加--type code参数; 只需要部署/更新配置,可以增加--type config参数; 父主题: 部署deploy
在“创建虚拟私有云”界面参考表1填写参数,其他参数保持默认即可。 表1 VPC和子网参数配置 参数类别 参数 参数说明 取值样例 基本信息 区域 必选参数。 VPC及其子网部署的区域。当前Stable Diffusion应用仅支持在“华东-上海一”部署。 华东-上海一 名称 必选参数。 VPC的名称。要求如下:
使用Redis连接池进一步复用已创建的连接,有效提升程序性能;同时,Redis提供了最大连接数配置确保连接资源的使用保持在一个可控范围内,并且能够确保线程安全。 最大连接数配置区间:在FunctionGraph函数配置Redis最大连接数建议在如下区间选取一个值: 最大连接数下限 =(函数单实例
使用FunctionGraph开发程序之后是否需要部署? 用户在本地开发程序之后打包,必须是ZIP包(Java、Node.js、Python、Go)或者JAR包(Java),上传至FunctionGraph即可运行,无需其它的部署操作。 制作ZIP包的时候,单函数入口文件必须在根
OBS事件 华为云函数可以由不同的event源触发。这些事件源可以通过event定义和配置。 OBS事件 此示例设置一个OBS事件,每当对象上传到my-service-resource时,该事件将触发first函数。 # serverless.yml functions: first:
使用FunctionGraph部署AI绘画Stable Diffusion应用 使用FunctionGraph部署AI绘画Stable Diffusion方案概述 使用FunctionGraph部署AI绘画Stable Diffusion资源和成本规划 使用FunctionGraph部署AI绘画Stable
包年/包月:适用于可预估资源使用周期的场景。 按需计费 区域 必选参数。 文件系统部署的区域。当前AI对话应用仅支持在“华东-上海一”部署,且需与创建的虚拟私有云VPC保持一致。 华东-上海一 项目 必选参数。 项目部署的区域。根据区域选择默认同步设置。 华东-上海一(默认) 可用区 必选参数。