检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
同步调用执行失败,需要自行重试。 异步调用 异步调用可配置最大重试次数和消息最大有限期,具体配置方法请参见配置函数的异步调用策略。 FunctionGraph会根据配置的最大重试次数和消息最大有限期(最大有限期为24小时)进行重试。重试次数和配置的最大重试次数一致,重试有效期和配置的消息最大有效期一致。 幂等性
BlockingConnectionPool配置 参数 默认值 说明 max_connections 50 连接池最大连接数 timeout 20 连接池耗尽后获取连接的最大等待时间 表3 Connection配置 参数 默认值 说明 host localhost 连接Redis实例的IP地址/域名 port
上传和使用自定义模型和自定义节点时必须。 弹性云服务器 ECS 区域:华东-上海一 操作系统:公共镜像 EulerOS 2.5 64bit(40GiB) 购买量:1 计费模式:本例使用按需计费。 实例类型、存储规格请根据业务需求选择,具体计费项及标准请参考弹性云服务器按需计费说明,价格详情请参见弹性云服务器价格详情。
上传与加载自定义模型和节点 进阶使用:使用ECS作为NFS服务器实现多用户资源隔离 如需实现多用户使用场景下的资源隔离,FunctionGraph函数支持挂载ECS服务器作为文件系统来源,通过设置共享NFS路径可有效管理多用户模型资源,可通过以下操作实现: 购买ECS服务器 设置ECS下的NFS共享 在AI绘画应用中挂载ECS
前提条件 完成部署和使用AI绘画ComfyUI/ComfyUI+FLUX应用步骤,应用创建成功。 配置网络环境 进入华为云网络控制台的公网NAT网关列表,单击右上角“购买公网NAT网关”,配置参考表1,填写完成后如图1所示,单击“立即购买”。 表1 公网NAT网关参数配置 参数 参数说明
发布区域:所有部署函数工作流服务的区域均可使用。 创建程序包 创建并初始化函数 函数管理 函数创建完成后,支持在线编辑函数,修改函数代码,修改函数配置等功能。 发布区域:所有部署函数工作流服务的区域均可使用。 导入导出函数 启用禁用函数 环境变量 支持设置函数的加密配置和环境变量,
添加事件源 创建LTS触发器 选择准备中创建的日志组和日志主题,创建LTS触发器。LTS触发器配置如图1所示。 LTS日志服务的消费端在日志累积大小或日志累积时间满足条件时消费LTS日志数据,并根据订阅该组LTS日志数据的函数URN触发函数执行。 图1 创建LTS触发器 父主题:
添加事件源 创建LTS触发器 选择准备中创建的日志组和日志流,创建LTS触发器,LTS触发器配置如图1所示。 图1 创建LTS触发器 云日志服务LTS的消费端在日志累积大小或日志累积时间满足条件时消费LTS日志数据,并根据订阅该组LTS日志数据的函数URN触发函数执行。 父主题:
进阶使用:如需在具体业务中使用AI绘画应用,本文还提供多用户资源隔离以及使用ComfyUI Manager在线安装自定义模型和节点的相关使用方法。 方案优势 轻松部署 部署流程简便,结合弹性的Serverless解决方案,无需服务器管理和运维,即刻体验AI绘画功能。 开源和定制化 提供多种自定义和进阶使用场景,轻松实现高阶个性化的AI绘画。
Framework的使用。 初始化设置 您需要安装和配置以下几个前提条件: 在本地计算机上安装Node.js 14.x或更高版本,详情请参见安装Node.js和NPM。 安装Serverless Framework开源CLI版本3.28.1或更高版本,详情请参见安装Serverless Framework的开源CLI。
码,通过英文逗号(,)分隔多用户的用户名和密码。 设置完成后,使用API模式访问应用时将需要输入您设置的用户名和密码。 配置并发参数 请参考配置单实例多并发配置并发参数,WebUI模式和API模式的推荐参数如下: WebUI模式 单实例并发数:>=100。经测试,在单人使用场景下
调试并调用API API网关提供了在线调试的功能,因此一般建议在API网关上完成API配置之后,可以先通过此功能确认API是否配置成功。 登录APIG控制台,左侧导航栏选择“API管理 > API列表”,单击进入已创建的API“API_test”,单击“调试”。 在本案例中,需要
使用FunctionGraph部署AI对话ChatGLM3应用 使用FunctionGraph部署AI对话ChatGLM3方案概述 使用FunctionGraph部署AI对话ChatGLM3资源和成本规划 使用FunctionGraph部署AI对话ChatGLM3操作流程 部署AI对话ChatGLM3准备工作
调试函数 在函数详情页的编码区中,通过配置测试事件进行函数调试。 在线调试函数 单击函数名称进入函数详情页,如图1所示,在“代码”页签下可以“配置测试事件”和“测试”函数进行在线调试。 图1 在线调试函数 父主题: 使用FunctionGraph函数访问Redis数据
x86系统及64位Windows系统,以及Mac系统,具体下载地址如表1所示。 表1 下载地址 系统 软件包及校验文件 参考文档 Linux 各系统类型软件包及校验文件下载请参见CLI软件和校验文件下载。 KooCLI介绍 Windows Mac 安装KooCLI命令行工具 安装KooCLI命令行工具,请参见在Linux系统上安装KooCLI。
拖拽一个函数节点,单击函数节点配置元信息: 应用:默认“default”; 函数:选择上一步创建好的函数test-rotate; 版本:默认“latest”; 其他参数默认值即可。 图3 配置元信息 参数配置完成后,单击“确定”。 函数流节点创建完成后,单击右上角“保存”,配置如下函数流基本信
func_code 函数代码,请参考表2。 depend_list 依赖包列表。 strategy_config 函数策略配置,请参考表3。 extend_config 函数扩展配置。 dependencies 依赖代码包列表,请参考表5。 initializer_handler 函数初始化入口,规则:xx
自定义认证:选择上述操作中创建的自定义认证“Authorizer_test”。 图1 前端定义配置 图2 安全配置 更多API配置项详细描述,请参见创建API。 单击“下一步”,进行后端配置,详细如图3所示。 后端服务类型:选择“FunctionGraph” 函数URN:添加创建的业务函数
日志并发结果写入test-1121。函数B代码样例请参考lts_cleanse.py。 在云日志服务配置Agent,快速将ECS等服务器上日志采集到指定的日志组,配置过程请参考安装ICAgent。 图1 流程图 创建委托 登录统一身份认证服务控制台。 在统一身份认证服务的左侧导航
函数创建以后,可以为函数添加事件源,本例通过配置DIS测试事件,模拟DIS输入数据,步骤如下。 用户进入DISDemo函数详情页,在“代码”页签下,选择配置测试事件,如图1所示,弹出“配置测试事件页”。 图1 配置测试事件 在“配置测试事件页”,输入配置信息,如图2所示。 配置测试事件:选择“创建新的测试事件”。