检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
部署和使用AI对话ChatGLM3应用 本章节介绍如何通过函数工作流控制台部署AI对话ChatGLM3应用。部署成功后,即可使用内置默认模型和临时域名开始AI对话体验。 前提条件 完成部署AI对话ChatGLM3准备工作,委托中包含“SWR Admin”、“VPC Administrator”和“Server
使用FunctionGraph部署AI对话ChatGLM3方案概述 AI对话ChatGLM3及其应用场景 ChatGLM3是智谱AI和清华大学KEG实验室联合发布的第三代双语对话大语言模型,具有完整的功能支持和全面的开源序列,凭借其卓越的语言理解和生成能力,为用户提供高效、个性化和智能化的对话交互体验。本
部署AI对话ChatGLM3准备工作 本章节介绍使用FunctionGraph部署AI对话ChatGLM3应用前,如何准备网络环境和授予函数必要权限。 步骤一:申请加入WebSocket白名单 AI对话ChatGLM3应用需用到WebSocket特性,当前WebSocket特性处
使用FunctionGraph部署AI对话ChatGLM3资源和成本规划 本实践根据使用需求的不同,涉及的计费服务有所不同,请参考表1根据具体需求规划资源与成本。 表1 资源和成本规划 资源 资源说明 计费说明 是否必须 函数工作流 FunctionGraph 函数类型:容器镜像HTTP函数
为FunctionGraph创建云服务委托 部署和使用AI对话ChatGLM3应用 使用FunctionGraph应用中心的AI对话ChatGLM3模板创建应用,即可使用内置默认模型和临时域名进行AI对话。 上传与使用自定义模型(可选) 如需使用自定义模型进行AI对话,还需进行以下操作: 创建SFS Turbo文件系统
使用FunctionGraph部署AI对话ChatGLM3应用 使用FunctionGraph部署AI对话ChatGLM3方案概述 使用FunctionGraph部署AI对话ChatGLM3资源和成本规划 使用FunctionGraph部署AI对话ChatGLM3操作流程 部署AI对话ChatGLM3准备工作
aph提供了单实例多并发能力,可以在一个实例上并发处理多个请求。 单实例多并发适合函数处理逻辑中有较长时间等待下游服务响应的场景,也适合函数逻辑中初始化时间较长的场景。单实例多并发具备以下优势: 降低冷启动概率,优化函数处理时延:例如并发三个请求,不配置单实例多并发,Functi
xx // 请填搭建服务器主机的私有地址 图5 查看共享信息 步骤三:在AI对话应用中挂载ECS 登录函数工作流控制台,进入应用中心,用户user1和user2已分别在各自的账号下成功创建了AI对话ChatGLM3应用。以下以user1为例进行介绍,user2操作步骤相同。 u
场景三:AI类应用 各行各业智能化深入带来更多的应用开发场景,通常需要集成各类服务快速上线。比如三方服务集成、AI推理、车牌识别。 其优势有: 快速搭建,用户上传图像后触发函数工作流执行调用文字识别/内容检测服务针对图像进程处理,并将结果以JSON结构化数据返回。按需使用函数与多个智能服务集成,形
策略的基础配置。 在添加预留实例策略弹窗中,单击“添加策略”,添加弹性预留策略。 图8 智能推荐策略 表4 智能推荐策略配置说明 参数 说明 策略类型 配置智能推荐的预留实例策略时选择“智能推荐策略”。 策略名称 自定义策略名称,以大写或小写字母开头,以字母或数字结尾,可包含字母
用户无需关心峰值和空闲时段的资源需要申请多少资源,系统根据请求的数量自动扩容/缩容。自动负载均衡将请求分发到函数运行实例。 同时系统会根据流量负载的模式来智能预热实例,以缓解冷启动对业务的影响。 事件触发 通过事件触发机制,集成多种云服务,满足不同场景需求,获得高效的开发体验。 与云日志服务、云
上传与使用自定义模型(可选) FunctionGraph应用中心的AI对话应用中内置了默认模型ChatGLM3-6B,如需使用更多自定义模型进行AI对话,需要在创建成功的应用中初始化自定义模型挂载文件系统,并添加环境变量使用自定义模型。 前提条件 完成部署AI对话ChatGLM3准备工作,委托中包含“SWR
本应用部署后会为您创建APIG网关,根据有关规定,建议在应用创建成功后根据提示绑定自定义域名,使用您的自有域名访问应用界面。 父主题: 使用FunctionGraph部署AI对话ChatGLM3应用
按需计费 适用场景 函数工作流使用场景广泛,例如实时文件处理、实时数据流处理、Web移动应用后端和人工智能等场景。 适用计费项 函数工作流实际费用是由请求次数费用、执行时间费用、函数流节点执行次数、GPU计量时间、磁盘计量时间、闲置内存计量时间和其他费用构成,各计费项按需计费说明请参见表1。
Hook进行状态刷新。 对于强依赖CPU指令集特性的函数,请先提前联系客服确认是否可以使用快照式冷启动。 依赖硬编码Host环境(如hostname或者hostip)的函数,在迁移到其他主机上时,使用快照式冷启动可能会有问题。请先提前联系客服进行确认,建议避免依赖这些变量。 当前仅支持基于x86机器开发的应用。
“函数 > 函数列表”。 选择待配置的函数,单击函数名称进入函数详情页。 选择“设置 > 触发器”,单击“创建触发器”,弹出“创建触发器”对话框。 图1 创建触发器 配置以下参数。 表1 EG触发器(OBS应用事件源)参数说明 参数名称 参数说明 触发器类型 必选参数。 选择“OBS应用事件源”。
登录函数工作流控制台,在左侧的导航栏选择“函数 > 函数列表”。 选择待配置的函数,单击进入函数详情页。 选择“设置 > 触发器”,单击“创建触发器”,弹出“创建触发器”对话框,本章节以创建对象存储OBS为例。 图1 创建触发器 设置以下信息: 触发器类型:选择“对象存储服务 OBS”。 触发器名称:填写自定义的名称。
GO语言深入之道 介绍几个Go语言及相关开源框架的插件机制 跟唐老师学习云网络 唐老师将自己对网络的理解分享给大家 智能客服 您好!我是有问必答知识渊博的的智能问答机器人,有问题欢迎随时求助哦! 社区求助 华为云社区是华为云用户的聚集地。这里有来自容器服务的技术牛人,为您解决技术难题。
制作zip代码包文件时,单函数执行入口文件必须在根目录,确保解压后直接出现函数的执行入口文件。 程序文件解压后的源代码大小不能超过1.5G,如需部署超大代码请提交工单联系客服处理。 当您部署的代码大于20M时,在线编辑器将不展示代码,但您仍可以测试您的函数。 图1 编辑器不展示代码 更多函数资源的限制,请参见使用限制。
“主题”可以更换编辑器主题,选择“显示命令面板”可以查看所有命令,如图18所示。 图18 查看所有命令 编辑器具有代码智能提示功能,如图19所示。 图19 智能提示 支持左侧工作区域调整宽度,文件可以拖拽移动,同时本地文件可以拖拽上传。 父主题: CodeArts IDE Online