检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
另一种GPU使用方式——预留GPU实例。如果您希望消除冷启动延时的影响,满足实时推理业务低延迟响应的要求,可以通过配置预留GPU实例来实现。更多关于预留模式的信息,请参见为函数配置预留实例。 服务质量优先,服务成本次优 预留GPU实例的计费周期不同于按量GPU实例,预留GPU实例
同时,在实时性要求较高的应用场景下,冷启动将是面临的一个切实的挑战。当使用Serverless构建Web服务时,冷启动和Web服务初始化时间一共超过了5秒钟,那么无疑将会使您网站的用户体验大打折扣,因此设法减少冷启动时间,提高终端用户的使用体验,是您在构建无服务器架构时亟待解决的问题。
使用FunctionGraph部署AI绘画Stable Diffusion应用 使用FunctionGraph部署AI绘画Stable Diffusion方案概述 使用FunctionGraph部署AI绘画Stable Diffusion资源和成本规划 使用FunctionGraph部署AI绘画Stable
执行超过该配置时间时,该次请求会因为超时而失败;内存根据业务运行过程中所需的内存大小配置,当内存使用超过该配置值时,函数实例可能会被迫停止而导致请求失败。 配置环境变量。 通过托管方式改造,需要统一配置以下两个参数: spring_start_class:SpringBoot的启动类名,如图10所示。
使用FunctionGraph部署AI对话ChatGLM3应用 使用FunctionGraph部署AI对话ChatGLM3方案概述 使用FunctionGraph部署AI对话ChatGLM3资源和成本规划 使用FunctionGraph部署AI对话ChatGLM3操作流程 部署AI对话ChatGLM3准备工作
添加事件源 创建LTS触发器 选择准备中创建的日志组和日志流,创建LTS触发器,LTS触发器配置如图1所示。 图1 创建LTS触发器 云日志服务LTS的消费端在日志累积大小或日志累积时间满足条件时消费LTS日志数据,并根据订阅该组LTS日志数据的函数URN触发函数执行。 父主题:
使用FunctionGraph部署AI绘画ComfyUI/ComfyUI+FLUX操作流程 部署AI绘画ComfyUI/ComfyUI+FLUX准备工作 部署和使用AI绘画ComfyUI/ComfyUI+FLUX应用 上传自定义模型和节点(可选) 进阶使用:使用ECS作为NFS服务器实现多用户资源隔离
“WARN”、“ERR”或“ERROR”关键字的告警日志,将此级别的日志投递至OBS桶中集中存储。可根据您的业务日志的具体内容配置相应的日志提取条件。 设置环境变量 在函数配置页签需配置环境变量,分别表示OBS桶地址、OBS桶名称以及OBS对象名称,说明如表1 环境变量说明表所示。
开始使用本案例前请在本地安装好18.15.0版本的Node.js运行环境。 当前华为云函数工作流服务支持的Node.js运行时最高版本为18.15.0、Next.js支持最高版本为13.5.6,本案例将以Next.js版本为13.5.6举例介绍。 资源规划 表1 资源规划详情 产品 配置示例 API网关(APIG)
“部署模板”选择“空白模板”,单击“下一步” 部署步骤。选择添加步骤“选择部署来源”和“执行shell命令”。 图5 添加部署步骤 选择部署来源 图6 将函数部署包下载到部署机 步骤显示名称:将函数部署包下载到部署机 主机组:deploy-function 选择软件包:/functions-he
进入DISDemo函数详情页,在“设置 > 基本设置”页签,修改配置信息。 内存:选择“512”。 执行超时时间:输入“15”。 其他配置项不修改。 单击“保存”,保存配置信息。 父主题: 使用FunctionGraph函数对DIS数据进行格式转换并存储到CloudTable
需购买冗余的资源用于非峰值处理。 如使用数据接入服务采集IOT实时数据流,通过构建函数,将采集到的数据进行处理(比如格式转换),然后存储到表格存储服务(CloudTable Service)中,参考使用函数处理DIS数据。 场景二:Web类应用 使用FunctionGraph和其
G的具体差异可参考产品规格差异说明。 前提条件 完成部署和使用AI绘画Stable Diffusion应用步骤,应用创建成功。 参考创建APIG实例的网络环境准备搭建完成业务所需的服务器和网络环境。 约束与限制 改用专享版APIG触发器时,新应用创建时分配的临时域名将不再可用,需准备您的自定义域名绑定应用使用。
添加事件源 添加APIG触发器(每个函数分别创建触发器),通过HTTP请求调用函数。 填写API名称,选择分组、发布环境、认证、请求协议、超时时间等配置,单击”确定”完成触发器创建,如图1所示。 图1 创建触发器 创建后可以获得一个调用URL,通过这个URL进行函数的调用,如图2所示。 图2
信息,通知业务人员进行处理。 定时开关华为公有云虚拟机 当您需要在特定时间打开或者关闭华为公有云虚拟机时,可以考虑通过函数服务调用华为云ECS接口,定时开关虚拟机。 开机节点:需要定时打开的虚拟机。 关机节点:需要定时关闭的虚拟机。 使用函数处理IOT数据 该案例演示您如何使用FunctionGraph
HTTP函数 约束与限制 该特性仅FunctionGraph v2版本支持。 概述 FunctionGraph支持两种函数类型,事件函数和HTTP函数。HTTP函数专注于优化 Web 服务场景,用户可以直接发送 HTTP 请求到 URL 触发函数执行,从而使用自己的Web服务。H
WebUI,可视化图像生成过程,使AI绘画更加易用和可控。 使用FunctionGraph应用中心部署AI绘画Stable Diffusion应用,可根据具体使用需求进行相应的部署操作。 快速部署:无需拥有深厚的技术背景,使用默认模型和临时域名快速部署Stable Diffusion模型,立即享受文生图的乐趣。 自
模型为ChatGLM3-6B,使用FunctionGraph应用中心部署AI对话ChatGLM3应用,可根据具体使用需求进行相应的部署操作。 快速部署:无需拥有深厚的技术背景,使用内置默认模型和临时域名快速部署,立即享受与AI对话的乐趣。 自定义模型:可以根据具体需求挂载文件系统
简介 Serverless Framework帮助您使用华为云函数工作流开发和部署无服务器应用。它是一个CLI,提供开箱即用的结构、自动化功能和最佳实践,您可以专注于构建复杂的、事件驱动的、无服务器架构,由函数和事件组成。 Serverless Framework与其他应用程序框架不同,因为它:
Not Acceptable 服务器生成的响应无法被客户端所接受。 407 Proxy Authentication Required 用户必须首先使用代理服务器进行验证,这样请求才会被处理。 408 Request Timeout 请求超出了服务器的等待时间。 409 Conflict