检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
使用FunctionGraph应用中心的AI对话ChatGLM3模板创建应用,即可使用内置默认模型和临时域名进行AI对话。 上传与使用自定义模型(可选) 如需使用自定义模型进行AI对话,还需进行以下操作: 创建SFS Turbo文件系统 初始化自定义模型挂载文件系统 上传与使用自定义模型 进
通过APIG服务调用函数服务时,isBase64Encoded的值默认为true,表示APIG传递给FunctionGraph的请求体body已经进行Base64编码,需要先对body内容Base64解码后再处理。 函数必须按以下结构返回字符串。 { "isBase64Encoded":
tionGraph创新提出的基于进程级快照的冷启动加速解决方案,致力于在用户无感知(无需/少量进行代码适配)的前提下,帮助用户突破冷启动的性能瓶颈。本优化方案直接从应用初始化后的快照进行运行环境恢复,跳过复杂的框架、业务初始化阶段,从而显著降低Java应用的启动时延,实测性能提升达90%+。
NVIDIA-T4 1~16 取值说明:必须是整数。 说明:由系统自动分配,无需手动配置 T4是一款独特的GPU产品,专为AI推理工作负载而设计,如处理视频,语音,搜索引擎和图像的神经网络。T4配备16GB GDDR6,GPU中集成320个Turing Tensor Core和2560个Turing
数目20,指定分支数目不能大于总分支数。) 输入过滤表达式 通过JSONPath表达式对节点的输入信息进行过滤。 输出过滤表达式 通过JSONPath表达式对节点的输出信息进行过滤。 结果输出路径 输入并行分支执行结果输出位置,输入值作为key,并行分支执行结果作为value,以
使用已有SpringBoot项目构建HTTP函数 使用Next.js项目构建HTTP函数 使用Go语言程序构建HTTP函数 使用FunctionGraph函数对MFA微服务进行Serverless化改造 使用FunctionGraph函数访问Redis数据 FunctionGraph函数的冷启动优化实践
监控安全风险 FunctionGraph提供基于云监控服务CES的资源和操作监控能力,帮助用户监控账号下的函数,执行自动实时监控、告警和通知操作。用户可以掌握函数中的调用次数、错误次数、运行时间(包括最大运行时间、最小运行时间、平均运行时间)、被拒绝次数、资源统计等信息。 关于F
retry_on_error配置指定了BusyLoadingError,ConnectionError,TimeoutError三种错误才进行重试,代码片段如下: retry = Retry(ExponentialBackoff(), 3) pool = Bloc
单击“下一步”到“定义后端服务”页面,修改调用类型为“Asynchronous”。 图3 修改调用类型 单击“立即完成”,进行保存。 函数调用的重试机制 函数在同步调用或异步调用执行失败时,可以通过以下重试机制进行操作。 同步调用 同步调用执行失败,需要自行重试。 异步调用 异步调用可配置最大重试次数和消息
在父函数的函数详情页,单击“测试”,弹出“配置测试事件”弹窗,单击“创建”使用默认空白模板创建测试事件。 创建成功后,单击代码编辑区的“测试”,进行父函数调用。 查看执行结果。 父函数的执行结果显示“执行成功”,返回“200”。 图3 父函数执行历史 子函数的日志中,显示被调用的日志。
函数异步执行并返回预留实例ID(已废弃) 功能介绍 函数异步执行并返回预留实例ID用于场景指客户端请求执行比较费时任务,不需要同步等待执行完成返回结果,该方法提前返回任务执行对应的预留实例ID, 如果预留实例有异常,可以通过该实例ID把对应实例删除(该接口主要针对白名单用户)。 目前仅支持广州
本实践仅作为简易示例供用户参考和学习,如需应用于实际生产环境,请参考镜像构建工程自行完善和优化。使用过程中遇到的函数工作流问题,可通过提交工单进行咨询。 本应用部署后会为您创建APIG网关,根据有关规定,建议在应用创建成功后根据提示绑定自定义域名,使用您的自有域名访问WebUI界面。
函数一旦创建,便不能修改运行时语言。 高级设置 支持添加日志标签,详情请参见日志标签。函数执行时,可以按照自定义标签配置上报标签到云日志服务(LTS),用户可以通过标签对日志进行过滤筛选。(最多添加10个标签) 说明: 当前仅支持华北-北京一、华东-上海一、华东-上海二、华南-广州、中东-利雅得、拉美-墨西哥城二。
名注册服务计费说明。 使用华为云域名注册服务注册新域名,以绑定Stable Diffusion应用进行访问时必须。 云解析服务 DNS 解析公网域名 免费。 使用华为云云解析服务进行公网域名解析时必须。 虚拟私有云 VPC 区域:华东-上海一 子网数量:1 购买量:1 虚拟私有云:免费。
js、Python和PHP。 高级设置 支持添加日志标签,详情请参见日志标签。函数执行时,可以按照自定义标签配置上报标签到云日志服务(LTS),用户可以通过标签对日志进行过滤筛选。(最多添加10个标签) 说明: 当前仅支持华北-北京一、华东-上海一、华东-上海二、华南-广州、中东-利雅得、拉美-墨西哥城二。
单实例多并发处理时,修改共享变量会导致错误。这要求您在编写函数时,对于非线程安全的变量修改要进行互斥保护。 监控指标 按实际情况进行监控。 相同负载下,函数的实例数明显减少。 流控错误 不涉及。 请求数超过实例可处理能力时,FunctionGraph会对请求进行流控。Body中的ErrorCode为“FSS.0429”
“user1”处填写用户名,“password1”处填写需要设置的密码。 设置完成后,访问WebUI时将需要输入您设置的用户名和密码才可以进行绘图操作。 父主题: 使用FunctionGraph部署AI绘画Stable Diffusion应用
用户函数执行调度包括以下几个阶段: FunctionGraph预先为函数分配执行函数的容器资源。 下载函数代码。 通过runtime运行时加载代码。 用户函数内部进行初始化逻辑。 函数处理请求并将结果返回。 其中1、2和3是系统层面的冷启动开销,通过对调度以及各个环节的优化,函数工作流服务能做到负载快速
义模型挂载文件系统,所挂载的SFS文件系统下已存在sd目录。 步骤一:创建多用户配置文件 本示例以两个用户user1和user2的使用场景进行介绍,可根据实际需要增减用户数。 选择任一用户,进入已完成初始化自定义模型的Stable Diffusion应用详情界面,单击“上传模型”,登录后进入文件系统。
作流控制台。 管理调用链。 单击右上方“关闭调用链”,可以直接关闭调用链,关闭调用链后将不能查看函数调用链。 若在APM控制台对AK/SK进行了编辑修改,返回函数工作流控制台,单击右上方“更新AKSK”,在弹框中更新AK/SK。 查询调用链详情 返回函数工作流控制台,在左侧导航栏选择“函数