检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
身份认证与访问控制 身份认证 用户访问FunctionGraph的方式有多种,包括FunctionGraph控制台、API、SDK,无论访问方式封装成何种形式,其本质都是通过FunctionGraph提供的REST风格的API接口进行请求。FunctionGraph支持Token认证和
进阶使用:通过挂载同一SFS文件系统实现多用户资源共享 应用场景 模型文件普遍占用大量内存,在多用户使用场景下,每个用户复制一份模型文件会导致不必要的存储空间浪费。通过将不同用户的应用挂载到同一SFS文件系统下,能够满足多人共享模型文件资源的需求,同时为了避免不同用户使用期间的推理结果相互影响
redis_client redis_client = create_redis_client(context) redis_client.ping() 图1 初始化函数配置 这里用到了FunctionGraph的函数初始化入口Initializer能力,通过该能力能在函数初始化阶段完成
使用函数模板创建函数 FunctionGraph提供了多种场景的函数模板,在使用函数模板创建函数时,可实现代码、环境变量自动填充,快速构建函数应用。 创建函数 登录函数工作流控制台,在左侧的导航栏选择“函数 > 函数列表”。 单击右上方的“创建函数”,进入“创建函数”页面。 创建方式选择
函数指标 包括获取按指定指标排序的函数列表、租户函数统计信息、获取指定时间段的函数运行指标接口。 函数日志 获取指定函数的lts日志组日志流配置、开通lts日志上报功能。 函数预留实例 获取函数预留实例配置列表、修改函数预留实例数量。 函数导入导出 导入、导出函数。
创建事件函数 创建空白函数是指创建一个初始的、没有任何业务配置的函数,用户需根据业务要求完成函数的代码、网络、触发器等各项配置。 FunctionGraph支持创建事件函数和HTTP函数(仅FunctionGraph v2版本支持),本章节介绍事件函数。 约束与限制 单个账户下最大允许创建的函数个数为
案例概述 本案例展示了函数工作流服务配合使用云日志服务LTS实现日志云端处理并转储消息到LTS的功能。 场景介绍 通过云日志服务LTS,快速完成ECS等服务器的任务运行日志的采集、加工和转换。 通过函数工作流服务中的函数创建LTS触发器获取日志数据,经由自定义函数对日志中的关键信息进行分析和处理
方案概述 在API的安全认证方面,API网关提供IAM认证、APP认证等方式,帮助用户快速开放API,同时API网关也支持用户使用自己的认证方式(以下简称自定义认证),以便更好地兼容已有业务能力。 本手册基于函数工作流服务实践编写,指导您快速创建后端服务为FunctionGraph
开启闲置模式后,因为在最初阶段会涉及实例的初始化及模式转换,因此该段时间会以预留实例的非闲置模式计费标准进行计费。 当函数调用并发数大于预留实例数量时,超出部分会分配给按量实例,这部分请求仍然有冷启动。
表1 发布消息 字段 填写说明 消息标题 输入“SMN-Test”。 消息类型 选择“文本消息”。 消息内容 输入以下内容:{"message":"hello"}。 查看函数运行结果 返回函数工作流控制台,在左侧的导航栏选择“函数 > 函数列表”。
、Proxy集群实例添加Retry配置,退避策略为指数退避(ExponentialBackoff),重试次数上限为3次,并通过retry_on_error配置指定了BusyLoadingError,ConnectionError,TimeoutError三种错误才进行重试,代码片段如下
HTTP函数 约束与限制 该特性仅FunctionGraph v2版本支持。 概述 FunctionGraph支持两种函数类型,事件函数和HTTP函数。HTTP函数专注于优化 Web 服务场景,用户可以直接发送 HTTP 请求到 URL 触发函数执行,从而使用自己的Web服务。HTTP
使用FunctionGraph部署AI对话ChatGLM3操作流程 表1介绍本实践中使用FunctionGraph部署AI对话ChatGLM3应用的总操作流程与说明,其中进阶使用流程主要面向具体的业务使用需求场景,请参考相关说明选择使用。 表1 部署AI对话ChatGLM3应用操作流程说明
图7 查询日志 日志查询结果包含的字段有:时间、请求ID、调用结果、耗时、内存、版本。
使用容器镜像创建函数 FunctionGraph支持加载容器镜像中的函数并运行,与直接上传代码的方式相比,用户可以使用自定义的代码包,不仅灵活,也简化了用户的迁移成本。 约束与限制 请参见配置函数的委托权限,创建一个包含“SWR Admin容器镜像服务(SWR)管理员”权限的委托,
update_dependency 获取测试事件列表 list_events 创建测试事件 create_event 删除测试事件 delete_event 获取测试事件详细信息 show_event 更新测试事件 update_event 查询租户配额 list_quotas 获取指定时间段的函数运行指标
使用FunctionGraph部署AI绘画Stable Diffusion操作流程 表1介绍本实践中使用FunctionGraph部署AI绘画Stable Diffusion应用的操作流程与说明,其中进阶使用流程主要面向具体的业务使用需求场景,请参考相关说明选择使用。 表1 部署AI
适用场景 用户函数执行调度包括以下几个阶段: FunctionGraph预先为函数分配执行函数的容器资源。 下载函数代码。 通过runtime运行时加载代码。 用户函数内部进行初始化逻辑。 函数处理请求并将结果返回。