检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
FunctionGraph函数的冷启动优化实践 Serverless按需付费、自动弹性伸缩、屏蔽复杂性等特征使其逐渐成为下一代云计算新范式。但是在Serverless架构带来极大便利的同时,在实时性要求较高的应用场景下,冷启动将是面临的一个切实的挑战。当使用Serverless构
步骤三:配置部署主机 在CodeArts界面,在“设置 > 通用设置”页签下,选择“主机组管理”,单击“新建主机组”。 输入主机组名“deploy-function”,单击“保存”: 图1 填写主机组名 在跳转界面“主机信息”页签下,单击“导入ECS”。 将部署环境准备的ECS云
准备工作 购买Redis实例,如果已有Redis实例可以跳过。 查看Redis实例的连接信息,获取待连接Redis实例的IP地址。具体步骤请参见查看实例信息。 创建一个有“VPC Administrator”权限的FunctionGraph云服务委托,配置委托权限请参见配置委托权限。
使用FunctionGraph部署AI对话ChatGLM3资源和成本规划 本实践根据使用需求的不同,涉及的计费服务有所不同,请参考表1根据具体需求规划资源与成本。 表1 资源和成本规划 资源 资源说明 计费说明 是否必须 函数工作流 FunctionGraph 函数类型:容器镜像HTTP函数
} } } 创建函数 创建函数的时候,必须选择委托包含OBS和DEW访问权限的委托,否则不能使用OBS和DEW服务。 登录函数工作流控制台,在左侧导航栏选择“函数 > 函数列表”,进入函数列表界面。 单击“创建函数”,进入创建函数流程。 选择“创建空白函数”,填写函数配置信息。
使用FunctionGraph部署AI对话ChatGLM3方案概述 AI对话ChatGLM3及其应用场景 ChatGLM3是智谱AI和清华大学KEG实验室联合发布的第三代双语对话大语言模型,具有完整的功能支持和全面的开源序列,凭借其卓越的语言理解和生成能力,为用户提供高效、个性化
直接创建固定个数的预留实例 直接创建固定个数的预留实例前,确保函数工作流控制台已存在需要创建预留实例的目标函数,例如Objective-func。 登录函数工作流控制台,在左侧导航栏选择“函数 > 预留实例列表”,进入“预留实例列表”界面。 单击“配置预留实例”,弹出“配置预留实例”对话框。
免责声明 本应用使用到的ChatGLM3以及镜像构建工程等项目均为社区开源项目,关于开源项目的问题还需用户到开源社区寻求帮助或者自行解决,华为云仅提供算力支持。 本实践仅作为简易示例供用户参考和学习,如需应用于实际生产环境,请参考镜像构建工程自行完善和优化。使用过程中遇到的函数工作流问题,可通过提交工单进行咨询。
方案概述 应用场景 端侧文件上传云服务器是Web和App应用的一类场景,例如服务运行日志的上报,Web应用图片上传等,函数可作为后端,结合APIG提供通用的API处理这类场景。本章节以NodeJS和Python语言为例,指导用户如何开发后端解析函数,获取上传的文件。 约束与限制 单次请求上传文件大小不超过6MB。
使用FunctionGraph部署AI绘画ComfyUI/ComfyUI+FLUX资源和成本规划 本实践根据使用需求的不同,涉及的计费服务有所不同,请参考表1根据具体需求规划资源与成本。 表1 资源和成本规划 资源 资源说明 计费说明 是否必须 函数工作流 FunctionGraph
免责声明 本应用使用到的Stable-Diffusion、Stable-Diffusion-WebUI以及镜像构建工程等项目均为社区开源项目,关于开源项目的问题还需用户到开源社区寻求帮助或者自行解决,华为云仅提供算力支持。 本实践仅作为简易示例供用户参考和学习,如需应用于实际生产
免责声明 本应用使用到的Stable-Diffusion、ComfyUI以及镜像构建工程等项目均为社区开源项目,关于开源项目的问题还需用户到开源社区寻求帮助或者自行解决,华为云仅提供算力支持。 本实践仅作为简易示例供用户参考和学习,如需应用于实际生产环境,请参考镜像构建工程自行完
使用FunctionGraph部署AI绘画Stable Diffusion方案概述 AI绘画Stable Diffusion及其应用场景 Stable Diffusion是一种开源的文本到图像的生成模型,能够根据用户提示生成高质量、独特的图像,提供了广泛的创意可能性。通过Stable
基本概念 函数 函数是处理事件的自定义代码。 事件源 事件源是发布事件的公有云服务或自定义应用程序。 同步调用 同步调用指的是客户端请求需要明确等到响应结果,也就是说这样的请求必须得调用到用户的函数,并且等到调用完成才返回。 异步调用 异步调用是指客户端不关注请求调用的结果,服务
工程所有文件,打包命名为“fss_examples_nodejs.zip”。 图1 打包 创建FunctionGraph函数,上传程序包 登录FunctionGraph控制台,创建Node.js函数,上传fss_examples_nodejs.zip文件。如图2所示。 图2 上传程序包
准备 创建函数前,需要创建1个OBS桶,用来保存用户上传的图片。 OBS桶创建以后,需要创建“委托”,给FunctionGraph函数赋权,确保FunctionGraph函数能够访问到OBS资源。 创建OBS桶 上传图片的源桶和函数必须处于同一个区域下。 操作步骤 在服务控制台左侧导航栏,选择“存储
函数配置概述 成功创建函数后,需在函数详情页中,配置函数运行所必须的资源与环境,确保函数满足业务需求。 函数配置流程 图1介绍了函数配置的总体流程,详细的步骤操作说明请参考表1。 图1 函数配置流程 表1 配置函数操作步骤说明 序号 步骤 说明 1 配置函数代码 在代码编辑器中配
权限管理 如果您需要对FunctionGraph的函数资源,给企业中的员工设置不同的访问权限,以达到不同员工之间的权限隔离,您可以使用统一身份认证服务(Identity and Access Management,简称IAM)进行精细的权限管理。该服务提供用户身份认证、权限分配、
配置按指标伸缩的预留实例策略前,需为函数配置包含AOM服务指标查询权限和函数服务配置查询权限的委托,具体操作请参见配置函数的委托权限。 配置固定数量的预留实例策略 登录函数工作流控制台,在左侧的导航栏选择“函数 > 函数列表”。 单击函数的名称,进入函数详情页。 在“设置”页签下选择“并发”。 单击“添加”,配置预留实例策略。
使用前必读 欢迎使用函数工作流(FunctionGraph)。FunctionGraph是一项基于事件驱动的函数托管计算服务。通过函数工作流,只需编写业务函数代码并设置运行的条件,无需配置和管理服务器等基础设施,函数以弹性、免运维、高可靠的方式运行。此外,按函数实际执行资源计费,不执行不产生费用。