检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
部署模型是将模型部署为在线服务,通过创建部署服务实现,创建成功后,可以对在线服务可以进行预测和调用。本文需要为基座模型(原模型)和微调后的新模型分别创建模型服务。由于在线运行需消耗资源,请确保账户未欠费。 在AI原生应用引擎的左侧导航栏选择“模型中心 > 我的模型服务”。 在“我的模型服务”页面右上角单击“部署模型服务”。
配置自定义采集指标参数,参数说明如表1所示,单击列表上方“添加”,可添加多条指标数据(一次最多添加10条,可多次创建添加)。配置完成后单击“确定”。 表1 自定义采集指标参数说明 参数名称 参数说明 序号 显示配置指标数据的序号,默认生成。 添加多条指标数据时,可根据报错提示的序号定位配置异常的指标数据。
用户购买AppStage及关联组织后,则成为组织管理员,可以通过直接添加成员、邀请已有个人华为账号的用户加入组织、批量导入成员等操作来完善企业组织架构。 前提条件 登录用户为组织管理员。 已添加部门。 约束与限制 每个组织下默认最多可以添加和邀请共200个成员。 创建成员 登录AppStage。
单击“自定义”,切换至“自定义”页签。 单击“创建”,进入“自定义创建”页面。 配置自定义采集指标参数。 可以单击列表上方的“添加”,添加多条指标数据,一次最多添加500条,参数说明如表1所示。 可以单击列表上方的“点击下载模板”,下载导入模板,在表格中完善指标数据,参数说明如表1所示
进入控制台单击刚创建好的组织即可进入业务侧管理中心,或直接访问管理中心。 选择“应用管理”,单击右上角的“添加自建应用”。 图2 添加自建应用 填写应用信息,上传应用图标,选择Oauth协议。 图3 添加自建应用 配置Demo应用信息。 表1 应用配置参数说明 参数 说明 首页URL Oauth登录交互流程的回调地址。
存储空间等等。 单击“规格变更”,变更实例规格,具体请参见在WiseDBA中变更数据库实例规格。 单击“添加节点”,可以添加节点,具体请参见在WiseDBA中为数据库实例添加节点。 在使用情况区域,查看数据库实例磁盘空间使用情况。 单击“磁盘扩容”,可以扩容磁盘,具体请参见在WiseDBA中扩容数据库实例磁盘。
e中的服务ID,即要将告警接入AppStage中录入服务的服务ID,可以在运维中心,将鼠标悬停在右上角的用户名,选择下拉列表中“租户管理”,在“我的租户”页面获取服务ID。 标签添加后,告警不会立即同步到AppStage,最多会延迟一个小时。 单个资源添加标签 以弹性云服务器为例,介绍如何添加标签。
"role": "assistant", "content": "你好,有什么我可以帮助你的吗?" }, "logprobs": null }], "object": "chat.completion" } 当接口调用出错时,会返回错误码及错误信息说明,错误响应的Body体格式如下所示。
通知组管理”,进入通知组管理页面。 单击“添加”。 填写通知组名称、备注,并在组内成员后的输入框输入成员账号名,并单击“单次添加”,可重复输入并添加多个成员。如图1所示,然后单击“确定”。 通知组添加完成后,会显示在通知组列表中,可以查看该通知组成员状态。 图1 添加通知组 更多操作 通知组创建后,您还可以对通知组进行以下操作。
通过部门管理功能,组织管理员可以在AppStage中清晰明了的看到您企业的组织结构,通过添加部门、添加子部门、编辑部门、删除部门等操作完善组织架构。 前提条件 登录用户为组织管理员。 添加部门 登录AppStage。 方式一:登录AppStage控制台,在应用平台控制台总览页,单击“开始使用”。
通过部门管理功能,组织管理员可以在AppStage中清晰明了的看到您企业的组织结构,通过添加部门、添加子部门、编辑部门、删除部门等操作完善组织架构。 前提条件 登录用户为组织管理员。 添加部门 登录AppStage。 方式一:登录AppStage控制台,在应用平台控制台总览页,单击“开始使用”。
在日志检索页面可以设置筛选条件,检索目标日志。 选择服务或者微服务、输入查询条件、选择查询时间。 单击“+筛选条件”,添加筛选条件,如图1所示,并单击“保存”,规则如表1所示。也可以在展开页面“未选字段”,单击“+”。 图1 添加筛选条件 表1 筛选条件规则 筛选项 筛选效果简介 is 返回筛选字段内容包含输入的值的记录列表,类似于like查询。
在日志检索页面可以设置筛选条件,检索目标日志。 选择服务或者微服务、输入查询条件、选择查询时间。 单击“+筛选条件”,添加筛选条件,如图1所示,并单击“保存”,规则如表1所示。也可以在展开页面“未选字段”,单击“+”。 图1 添加筛选条件 表1 筛选条件规则 筛选项 筛选效果简介 is 返回筛选字段内容包含输入的值的记录列表,类似于like查询。
在监控服务新增并管理实时监控页面 如果想指定应用及资源的实时监控数据,需要先新增实时监控页面,并为页面添加图表。 前提条件 已获取服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 新增实时监控页面 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维
组织管理员可以在“插件管理”页面添加或管理插件,其他成员可以在开发插件库中查看插件详情或下载插件。 前提条件 如需管理插件,需要获取组织管理员角色权限,权限申请方法请参见申请权限。 添加插件 在开发中心首页右上角选择“插件管理”。 在“插件管理”页面,单击右上角“添加插件”。 在“添加插件”页面,配置如表1所示参数。
基本概念说明 基本概念 说明 微服务 微服务是云原生应用的最佳架构, 它提倡将单一应用程序划分成一组小的服务,服务之间互相协调、互相配合,为用户提供最终价值。每个微服务运行在其独立的进程中, 微服务与微服务间采用轻量级的通信机制互相沟通。每个微服务由全功能团队独立构建、独立测试,
)到100(独占选择标记)的关联偏差值。 像-1和1这样的适度值将以较小的程度改变选择标记的概率。 使用logit_bias参数时,偏差被添加到模型生成的logits之前进行抽样。 max_tokens 否 Integer 返回体允许的最大token数。 n 否 Integer
(可选)录入HTTPS监听所需的服务器证书 配置HTTPS监听时,涉及服务器身份验证,需要为监听绑定服务器证书。本文介绍如何录入服务器证书。 前提条件 已获取服务器证书。 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 创建证书 进入AppStage运维中心。
进入AppStage运维中心。 单击,选择“运维 > 主机管理服务(VMS)”。 选择左侧导航栏的“云服务器管理 > 弹性云服务器”。 在主机列表勾选需要恢复的主机,单击“恢复”。 父主题: 管理已纳管的主机
serverDomain STS服务器的地址。 nuwa.security.sts.configPath STS微服务证书路径,基础设施即代码(Infrastructure as Code,简称IaC)会将证书放在固定路径下,格式为/opt/huawei/certs/服务名/微服务名/微服务名.ini。