检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
支持知识库容量,智能应用运行时引擎,开通ChatGLM3-6B服务、大模型调优服务API在线调用。
表1 添加工具参数说明 参数名称 参数说明 工具LOGO 单击系统默认图片上的“点击修改”,可选择系统预置图片作为工具LOGO,也可单击“上传LOGO”,上传本地图片作为工具LOGO,上传图片支持JPG或PNG,尺寸建议使用48*48px,最大2MB。
按需计费 千tokens * 每千tokens单价 大模型微调服务API在线调用-SFT局部调优 根据实际输入和输出tokens总量计费,平台提供算力支持。
推荐图片比例为4:3。 配置完成后,单击“确定”。 在“提示”对话框中单击“确认”:可以在此页面继续新建卡片。 在“提示”对话框中单击“取消”:系统自动返回“配置看板 > 我的卡片”界面。 在“我的卡片”界面,上传后的卡片默认显示在“我的卡片”所选择的卡片分类列表下。
说明: 适用于使用“在线构建”、“模板构建”方式新建的卡片。 查看卡片详情 卡片形式:单击“更多 > 详情”,可以查看卡片详情。 列表形式:在对应的“版本号”列下,单击版本号。 预览卡片效果 卡片形式:在需要预览的卡片上,单击“更多 > 预览”。
新建及管理我的卡片 新建卡片分类为卡片分组 使用在线构建方式新建卡片 使用模板构建方式新建卡片 使用离线构建方式新建卡片 管理我的卡片 父主题: 在运营中心自定义运营看板
保留期到期后,如果您仍未支付账户欠款,那么ChatGLM3-6B大模型服务API在线调用、大模型微调服务API在线调用-SFT局部调优将无法再使用。 图1 按需计费AI原生应用引擎资源生命周期 华为云根据客户等级定义了不同客户的宽限期和保留期时长。
大模型会基于提示语所提供的信息,生成对应的文本或者图片。 测试提示语 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“提示语模板”页签。 将鼠标光标移至提示语模板卡片上,单击“测试”,进入模型调测页面。
自定义模型训练 API SaaS:大模型微调服务API在线调用-SFT局部调优 说明: 按需仅适用于AppStage的AI原生应用引擎。
AppStage审批人审批权限 当审批人收到用户权限申请后,需要在权限管理系统页面,进行权限审批。 前提条件 登录用户为具有相应审批角色的用户,具体审批角色权限详见权限管理。 审批权限 登录AppStage。
AppStage审批人审批权限 当审批人收到用户权限申请后,需要在权限管理系统页面,进行权限审批。 前提条件 登录用户为具有相应审批角色的用户,具体审批角色权限详见权限管理。 审批权限 登录AppStage。
产品视图 产品视图是集合AppStage中全量的产品、服务及微服务的信息管理页面,可创建、查看、编辑、删除、发布、同步或下线产品、服务及微服务信息。 前提条件 需要具备组织管理员角色权限,权限申请方法请参见申请权限。具体角色权限说明请参考用户角色和权限说明。 操作步骤 登录AppStage
在监听详情页面选择“后端服务器”页签,检查该后端服务器集群中的节点是否都在线,如果都下线会报此错误。 父主题: SLB同步异常相关问题
按需计费资源 对于按需计费模式的资源,例如按需计费的大模型微调服务API在线调用-SFT局部调优,如果不再使用这些资源且需停止计费,请删除相应资源。 退订包年包月资源以停止计费 登录AppStage控制台,默认进入AppStage控制台“总览”页。
有文本内容,则对文本进行内容审核; 有图片内容,则会对图片进行内容审核。 响应参数 状态码: 200 表7 响应Body参数 参数 参数类型 描述 id String 文本对话唯一标识符。 choices Array of choices objects 返回体列表。
步骤三:部署模型 部署模型是将模型部署为在线服务,通过创建部署服务实现,创建成功后,可以对在线服务可以进行预测和调用。本文需要为基座模型(原模型)和微调后的新模型分别创建模型服务。由于在线运行需消耗资源,请确保账户未欠费。
提供业务运行时管理,支持业务优雅启停、启动加速、在线诊断等能力。 提供流量控制、资源动态伸缩、容错容灾等能力,使能业务具备韧性。 提供云原生中间件与数据库管理,结合华为面向10亿+移动用户应用治理经验,兼具高并发与高可靠能力。
download_addresses Map<String,String> 图片或视频临时下载地址(map类型,key为文件路径,value为下载地址)。 download_address String 废弃字段,请使用download_addresses。
在线压测 选择是否开启在线压测。 慢查询阈值 超过慢查询阈值的记录为慢sql,默认值为2000。 请求路由优化 是否开启请求路由优化。开启请求路由优化,可使请求优先访问有数据的节点,减少转发。 PK黑名单 选择是否开启PK黑名单。 单击“新增”,新增一条黑名单配置。
已创建我的卡片,具体请参见使用在线构建方式新建卡片、使用模板构建方式新建卡片、使用离线构建方式新建卡片。 新建屏幕模板 登录AppStage业务控制台。 在快捷入口选择“运营中心”,进入运营中心。 在左侧导航栏选择“看板管理 > 公共屏幕模板”。