检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
使用FunctionGraph部署AI对话ChatGLM3操作流程 表1介绍本实践中使用FunctionGraph部署AI对话ChatGLM3应用的总操作流程与说明,其中进阶使用流程主要面向具体的业务使用需求场景,请参考相关说明选择使用。 表1 部署AI对话ChatGLM3应用操作流程说明
使用FunctionGraph部署AI对话ChatGLM3资源和成本规划 本实践根据使用需求的不同,涉及的计费服务有所不同,请参考表1根据具体需求规划资源与成本。 表1 资源和成本规划 资源 资源说明 计费说明 是否必须 函数工作流 FunctionGraph 函数类型:容器镜像HTTP函数
包年/包月:适用于可预估资源使用周期的场景。 按需计费 区域 必选参数。 文件系统部署的区域。当前AI绘画应用仅支持在“华东-上海一”部署,且需与创建的虚拟私有云VPC保持一致。 华东-上海一 项目 必选参数。 项目部署的区域。根据区域选择默认同步设置。 华东-上海一(默认) 可用区 必选参数。
模型为ChatGLM3-6B,使用FunctionGraph应用中心部署AI对话ChatGLM3应用,可根据具体使用需求进行相应的部署操作。 快速部署:无需拥有深厚的技术背景,使用内置默认模型和临时域名快速部署,立即享受与AI对话的乐趣。 自定义模型:可以根据具体需求挂载文件系统
默认模型不同,使用FunctionGraph应用中心部署的操作流程相同。 表1 部署AI绘画应用操作流程说明 操作流程 说明 部署AI绘画ComfyUI/ComfyUI+FLUX准备工作 在FunctionGraph应用中心部署AI绘画ComfyUI应用和AI绘画ComfyUI+FLUX应用前,需完成以下准备工作:
高效输出更符合现实期望的高分辨率图像。 使用FunctionGraph应用中心部署AI绘画ComfyUI应用和AI绘画ComfyUI+FLUX应用,可根据具体使用需求进行相应的部署操作。 快速部署:无需拥有深厚的技术背景,AI绘画ComfyUI应用已内置sd-v1-5-inpainting
添加事件源 选择准备中开通的CTS云审计服务,创建CTS触发器,CTS触发器配置如图1所示。 图1 创建CTS触发器 CTS云审计服务监听IAM服务中user资源类型,监听login、logout操作。 父主题: 使用FunctionGraph函数和CTS识别非法IP的登录登出操作
Manager在线安装自定义模型和自定义节点时必须。 弹性公网IP EIP 区域:华东-上海一 线路:全动态BGP 购买量:1 计费模式:本例使用按需计费。 公网带宽:按流量计费。 具体计费项及标准请参考弹性公网IP按需计费说明。 使用ComfyUI Manager在线安装自定义模型和自定义节点时必须。
同步调用执行失败,需要自行重试。 异步调用 异步调用可配置最大重试次数和消息最大有限期,具体配置方法请参见配置函数的异步调用策略。 FunctionGraph会根据配置的最大重试次数和消息最大有限期(最大有限期为24小时)进行重试。重试次数和配置的最大重试次数一致,重试有效期和配置的消息最大有效期一致。 幂等性
场景,比如: 复杂度高需要抽象的业务(订单管理,CRM 等) 业务需要自动中断 / 恢复能力,如多个任务之间需要人工干预的场景(人工审批,部署流水线等) 业务需要手动中断 / 恢复(数据备份 / 恢复等) 需要详细监控任务执行状态的场景 流式处理(日志分析,图片 / 视频处理等)
自动化部署 部署环境准备 使用CodeArts托管函数代码 deploy.py代码示例 cam.yaml解析
函数的URN,详细解释见FunctionGraph函数模型的描述。 表2 Query参数 参数 是否必选 参数类型 描述 config 否 Boolean 是否导出函数配置,默认为false。若无type参数,则必填code=true或config=true至少一项。 缺省值:false code 否 Boolean
myhuaweicloud.com/my_group/my_image:latest。 容器镜像覆盖 此处如果配置,则会覆盖dockerfile文件中的镜像配置,如果不配置则使用镜像默认配置。 CMD:容器的启动命令,例如"/bin/sh"。该参数为可选参数,不填写,则默认使用镜像中的En
在“创建虚拟私有云”界面参考表1填写参数,其他参数保持默认即可。 表1 VPC和子网参数配置 参数类别 参数 参数说明 取值样例 基本信息 区域 必选参数。 VPC及其子网部署的区域。当前Stable Diffusion应用仅支持在“华东-上海一”部署。 华东-上海一 名称 必选参数。 VPC的名称。要求如下:
FunctionGraph函数初始化入口 在示例代码中,initializer方法内创建Redis客户端,并在创建函数时配置了初始化函数,如下: def initializer(context): global redis_client redis_client =
使用Redis连接池进一步复用已创建的连接,有效提升程序性能;同时,Redis提供了最大连接数配置确保连接资源的使用保持在一个可控范围内,并且能够确保线程安全。 最大连接数配置区间:在FunctionGraph函数配置Redis最大连接数建议在如下区间选取一个值: 最大连接数下限 =(函数单实例
本章节介绍如何结合云审计服务CTS,配置获取云服务资源操作信息并对信息进行分析和处理的函数,再通过消息通知服务SMN推送告警短信和邮件,通知业务人员处理。 使用FunctionGraph函数定时开关华为云ECS 本章节介绍如何配置实现定时开启或关闭华为公有云虚拟机ECS功能的函数。
函数工程打包规范 打包规范说明 函数除了支持在线编辑代码,还支持上传ZIP、JAR、引入OBS文件等方式上传代码,上传操作过程请参见配置函数代码,函数工程的打包规范说明如表1所示。 表1 函数工程打包规范 编程语言 JAR包 ZIP包 OBS文件 Node.js 不支持该方式 假
拖拽一个函数节点,单击函数节点配置元信息: 应用:默认“default”; 函数:选择上一步创建好的函数test-rotate; 版本:默认“latest”; 其他参数默认值即可。 图3 配置元信息 参数配置完成后,单击“确定”。 函数流节点创建完成后,单击右上角“保存”,配置如下函数流基本信
成jar包。 图1 生成jar包 配置工程web端口。HTTP函数当前支持8000端口,需配置工程web端口为 8000(此端口请勿修改), 可以使用application.properties文件来配置,也可以在启动时指定端口号。 图2 配置8000端口 在jar包同目录创建bootstrap文件,输入启动参数。