检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
使用FunctionGraph部署AI对话ChatGLM3操作流程 表1介绍本实践中使用FunctionGraph部署AI对话ChatGLM3应用的总操作流程与说明,其中进阶使用流程主要面向具体的业务使用需求场景,请参考相关说明选择使用。 表1 部署AI对话ChatGLM3应用操作流程说明
WebUI,可视化图像生成过程,使AI绘画更加易用和可控。 使用FunctionGraph应用中心部署AI绘画Stable Diffusion应用,可根据具体使用需求进行相应的部署操作。 快速部署:无需拥有深厚的技术背景,使用默认模型和临时域名快速部署Stable Diffusion模型,立即享受文生图的乐趣。 自
下载成功后,右侧输出控制台提示下载成功。 打完断点,点击调试图标或者右键选择“调试函数”。 进入函数调试页面,选择测试事件,点击“调试”。 配置测试事件和测试函数请参考测试管理。 修改函数代码后,点击“推送函数”图标或者右键选择“推送函数”。 页面下方输出控制台提示推送成功。 返回
<=5000次/月,不计费。 >5000次/月,各节点执行累计总次数 * 每千次单价。 具体请求次数单价详情请参考价格详情。 GPU计量时间费用 根据您配置函数的GPU规格和函数执行时长计费,输入值必须在0GB到10GB之间,执行时长的计量粒度是1毫秒。 按需计费 函数计算资源消耗公式:函数GPU大小(GB)
只能在账号自己的事件列表页面去查看,或者到组织追踪器配置的OBS桶中查看,也可以到组织追踪器配置的CTS/system日志流下面去查看。 用户通过云审计控制台只能查询最近7天的操作记录。如果需要查询超过7天的操作记录,您必须配置转储到对象存储服务(OBS)或云日志服务(LTS),
持的所有类型触发器均可用于触发事件函数。 FunctionGraph原生支持事件类型函数,在函数创建界面默认选择该类型; 测试函数时在参数配置界面输入用户指定的事件JSON即可完成函数触发; 用户也可以通过FunctionGraph支持的触发器进行事件函数触发; 优势 单机编程体验,简单易用
StrategyConfig object 函数策略配置。 extend_config String 函数扩展配置。 initializer_handler String 函数初始化入口,规则:xx.xx,必须包含“. ”。当配置初始化函数时,此参数必填。 举例:对于node.js函数:myfunction
云服务:选择“函数工作流 FunctionGraph”。 持续时间:选择“永久”。 描述:填写描述信息。 单击“下一步”,进入委托选择页面,在“配置权限”界面勾选“OBS Administrator”。 单击“下一步”,根据实际业务需求选择资源授权范围,单击“确定”,完成权限委托设置。
StrategyConfig object 函数策略配置。 extend_config String 函数扩展配置。 initializer_handler String 函数初始化入口,规则:xx.xx,必须包含“. ”。当配置初始化函数时,此参数必填。 举例:对于node.js函数:myfunction
模型为ChatGLM3-6B,使用FunctionGraph应用中心部署AI对话ChatGLM3应用,可根据具体使用需求进行相应的部署操作。 轻松部署:无需拥有深厚的技术背景,使用内置默认模型和临时域名快速部署,立即享受与AI对话的乐趣。 自定义模型:可以根据具体需求挂载文件系统
使用FunctionGraph部署AI对话ChatGLM3资源和成本规划 本实践根据使用需求的不同,涉及的计费服务有所不同,请参考表1根据具体需求规划资源与成本。 表1 资源和成本规划 资源 资源说明 计费说明 是否必须 函数工作流 FunctionGraph 函数类型:容器镜像HTTP函数
高效输出更符合现实期望的高分辨率图像。 使用FunctionGraph应用中心部署AI绘画ComfyUI应用和AI绘画ComfyUI+FLUX应用,可根据具体使用需求进行相应的部署操作。 快速部署:无需拥有深厚的技术背景,AI绘画ComfyUI应用已内置sd-v1-5-inpainting
框架、业务初始化阶段,从而显著降低Java应用的启动时延,实测性能提升达90%+。 用户使用Java函数可以打开冷启动快照加速的配置开关,详情请参见配置快照式冷启动。华为云FunctionGraph会预先执行函数对应的初始化代码,获取其初始化执行上下文环境的快照,并进行加密缓存。
默认模型不同,使用FunctionGraph应用中心部署的操作流程相同。 表1 部署AI绘画应用操作流程说明 操作流程 说明 部署AI绘画ComfyUI/ComfyUI+FLUX准备工作 在FunctionGraph应用中心部署AI绘画ComfyUI应用和AI绘画ComfyUI+FLUX应用前,需完成以下准备工作:
1)函数,上传打包好的“test.zip”压缩包,如图1所示。 图1 上传代码包 配置一个测试事件。如图2所示。其中的key必须设置为“KetTest”,value可以自定义。(测试串必须为json格式。) 图2 配置测试事件 KetTest:定义序列化的类中的属性为KetTest。 单击“测试”,查看测试执行结果。
提供调用函数的监控指标和运行日志的采集和展示,实时的图形化监控指标展示,在线查询日志,方便用户查看函数运行状态和定位问题。 日志的查询过程请参考配置和查看函数的调用日志。 单个监控指标请参考监控信息说明。 租户函数监控指标请参考总览页面介绍。 初始化功能 引入initializer接口:
内容。 具体创建步骤请参见:创建自定义策略。 以下为您介绍常用的FunctionGraph自定义策略样例。 示例1:授权用户查询函数代码和配置 { "Version": "1.1", "Statement": [
Manager在线安装自定义模型和自定义节点时必须。 弹性公网IP EIP 区域:华东-上海一 线路:全动态BGP 购买量:1 计费模式:本例使用按需计费。 公网带宽:按流量计费。 具体计费项及标准请参考弹性公网IP按需计费说明。 使用ComfyUI Manager在线安装自定义模型和自定义节点时必须。
自动化部署 部署环境准备 使用CodeArts托管函数代码 deploy.py代码示例 cam.yaml解析
云服务:选择“函数工作流 FunctionGraph”。 持续时间:选择“永久”。 描述:填写描述信息。 单击“下一步”,进入委托选择页面,在“配置权限”界面勾选“OBS Administrator”。 单击“下一步”,根据实际业务需求选择资源授权范围,单击“确定”,完成权限委托设置。