检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
用户使用FunctionGraph时,不需要开通或者预配置计算、存储、网络等服务,由FunctionGraph提供和管理底层计算资源,包括服务器CPU、内存、网络和其他配置/资源维护、代码部署、弹性伸缩、负载均衡、安全升级、资源运行情况监控等,用户只需要按照FunctionGraph
自动负载均衡将请求分发到函数运行实例。 同时系统会根据流量负载的模式来智能预热实例,以缓解冷启动对业务的影响。 事件触发 通过事件触发机制,集成多种云服务,满足不同场景需求,获得高效的开发体验。
HTTP函数 该特性仅FunctionGraph v2版本支持。 概述 FunctionGraph支持两种函数类型,事件函数和HTTP函数。HTTP函数专注于优化 Web 服务场景,用户可以直接发送 HTTP 请求到 URL 触发函数执行,从而使用自己的Web服务。HTTP函数只允许创建
配置磁盘挂载 概述 FuncitonGraph提供了文件系统挂载功能,多个函数可以通过共用一个文件系统,实现文件共享。相比于对单个函数实例分配的临时磁盘空间限制,可以极大扩展函数的执行和存储空间。 场景介绍 使用磁盘挂载功能需要开放如下端口: 111、445、2049、2051、2052
启用WebUI认证 通过Serverless应用中心和管理中台部署的Stable-Diffusion应用为方便您快速体验,默认未开启WebUI认证。为了防止域名泄露导致您的函数被盗用,您可以通过配置函数环境变量的方式开启WebUI认证,请参考配置环境变量为Stable-Diffusion
实时推理场景 特征 在实时推理应用场景中,工作负载具有以下一个或多个特征: 低延迟 单次请求的处理时效性要求高,RT(Response Time)延迟要求严格,90%的长尾延时普遍在百毫秒级别。 功能优势 函数计算为实时推理工作负载提供以下功能优势: 预留GPU实例 函数计算平台提供了默认的按量
创建HTTP函数 概述 HTTP函数专注于优化 Web 服务场景,用户可以直接发送 HTTP 请求到 URL 触发函数执行,从而使用自己的Web服务。HTTP函数只允许创建APIG/APIC的触发器类型,其他触发器不支持。 HTTP函数当前不区分编程语言,函数执行入口必须在bootstrap
方案概述 应用场景 端侧文件上传云服务器是Web和App应用的一类场景,例如服务运行日志的上报,Web应用图片上传等,函数可作为后端,结合APIG提供通用的API处理这类场景。本章节以NodeJS和Python语言为例,指导用户如何开发后端解析函数,获取上传的文件。 约束与限制 单次请求上传文件大小不超过
函数工作流冷启动优化实践 Serverless按需付费、自动弹性伸缩、屏蔽复杂性等特征使其逐渐成为下一代云计算新范式。但是在Serverless架构带来极大便利的同时,在实时性要求较高的应用场景下,冷启动将是面临的一个切实的挑战。当使用Serverless构建Web服务时,冷启动和
案例概述 您可以通过华为云函数工作流服务的应用中心部署AI绘画Stable-Diffusion应用,且支持自定义模型上传等能力。您可以快速访问Stable-Diffusion WebUI界面绘图,实现文生图、图生图等功能。(目前仅支持华东-上海一) 父主题: 通过应用中心部署AI绘画
函数工作流的常见使用场景? Web类应用:比如小程序、网页/App、聊天机器人、BFF等。 事件驱动类应用:文件处理、图片处理、视频直播/转码、实时数据流处理、IoT规则/事件处理等。 AI类应用:三方服务集成、AI推理、车牌识别。 具体请参考应用场景。 父主题: 通用问题
函数支持的事件源 本节列出了FunctionGraph函数支持的云服务,可以将这些服务配置为FunctionGraph函数的事件源。在预配置事件源映射后,这些事件源检测事件时将自动调用FunctionGraph函数。 消息通知服务SMN 可以编写FunctionGraph函数来处理
创建委托 使用华为云Serverless应用中心部署Stable-Diffusion WebUI应用需要FunctionGraph服务与其他云服务协同工作,因此需要通过配置委托给FunctionGraph授权必要的云服务资源的操作权限,且委托授权的生效需要15-30分钟才能生效,所以强烈建议您提前创建委托
使用API模式 通过Serverless应用中心和管理中台部署的Stable-Diffusion应用默认未开启API访问,您可以通过配置函数环境变量的方式开启,请参考配置环境变量为Stable-Diffusion函数配置如下环境变量并保存。 表1 环境变量 Key Value EXTRA_ARGS
预留实例管理 “华北-北京四、华东-上海一”区域已支持配置定时伸缩预留实例。 概述 函数工作流提供了按量和预留两种类型的实例。 按量实例是由函数工作流根据用户使用函数的实际情况来创建和释放,当函数工作流收到函数的调用请求时,自动为此请求分配执行环境。 预留实例是将函数实例的创建和释放交由用户管理
应用使用 因文生图应用的输出内容完全由开源大模型与用户输入决定,因此用户需保证其合法合规性,需要自行绑定已备案域名用于应用的开放访问。应用创建完成后,在应用总览页面单击“去绑定”为Stable Diffusion WebUI绑定您的自定义域名,具体操作方案请参考绑定域名,在浏览器中打开您绑定的域名或在总览页面单击
多人共享模型、插件 使用ECS作为NFS服务器实现多用户资源隔离介绍了如何使用ECS作为NFS服务器解决多人使用Stable-Diffusion WebUI的资源隔离问题,这一方案适合用户之间要求强隔离的场景。 在某些场景下如您希望多人共享部分资源,如模型文件、插件等,因为模型文件普遍都比较大
免责声明 本应用使用到的Stable-Diffusion、Stable-Diffusion-WebUI、以及镜像构建工程等项目均为社区开源项目,华为云仅提供算力支持。 本应用仅作为简单案例供用户参考和学习使用,如果用于实际生产环境,请用户参考镜像构建工程自行完善和优化;使用过程中出现的函数工作流的问题
准实时推理场景 本章节介绍什么是准实时推理场景,以及如何使用GPU按量实例和如何基于GPU按量实例构建使用成本较低的准实时推理服务。 特征 在准实时推理应用场景中,工作负载具有以下一个或多个特征: 调用稀疏 日均调用几次到几万次,日均GPU实际使用时长远低于6~10小时,GPU存在大量闲置
离线异步任务场景 特征 在离线异步应用场景中,工作负载具有以下一个或多个特征: 执行时间长 业务的处理耗时一般在分钟~小时级,Response Time不敏感。 提交后立即返回 在触发调用后立即得到返回,从而不因长耗时处理阻塞业务主逻辑的执行。 实时感知任务状态 无 并行处理 离线