检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
查看注册到CloudMap的微服务信息 查看注册到CloudMap的微服务列表 配置微服务治理 在CloudMap中删除微服务 查看微服务版本信息 查看及导出微服务接口契约 查看微服务的依赖关系 查看依赖服务(声明) 查看SLB后端集群 父主题: 管理Cloud Map中的服务资源
PromptTemplate 导入PromptTemplate from wiseagent_dev_sdk_python.modules.prompt import PromptTemplate PromptTemplate提供了提示语编写与组装的能力,目前支持f-string和jinja两种形式的模板。
ModelRouter提供了AI原生应用引擎模型网关的接口,可以访问AI原生应用引擎上的模型,接口调用类似OpenAI。 实例化 表1 实例化参数 参数名 参数类型 是否必选 参数描述 base_url str False 模型网关开放的ip和端口,有默认值可以不填。功能类似OpenAI的base_url。
运行时引擎访问凭据管理服务 已申请权限,但是仍然没有权限操作 服务、微服务名称大小写不正确 切换offering,服务名和微服务名没有发生变化,是否需要重新注册? 服务或微服务改名了,是否需要删除原来的服务/微服务,注册新的服务/微服务? 服务或微服务改名了,使用了STS敏感配置
大模型微调需要的数据有要求吗? AI原生应用引擎用于大模型微调的数据集任务领域为“自然语言处理”、数据集格式为“对话文本”。 文件内容要求为标准json数组,例如: [{"instruction": "aaa", "input": "aaa", "output": "aaa"},{"instruction":
security.sts.enable 是否初始化STS,需要配置为true。 nuwa.security.sts.serverDomain STS服务器的地址。 nuwa.security.sts.configPath STS微服务证书路径,基础设施即代码(Infrastructure
标签添加后,告警不会立即同步到AppStage,最多会延迟一个小时。 单个资源添加标签 以弹性云服务器为例,介绍如何添加标签。 单击,选择“计算 > 弹性云服务器 ECS”。 在弹性云服务器列表中,单击待管理标签的弹性云服务器名称,进入该弹性云服务器详情页面。 单击“标签”,切换至“标签”页签。 单击“添加标
的工具,需要先收藏到“我的工具”列表中,方可便捷地进行使用。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 收藏其他租户上架的工具 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“工具”页签。
实例化参数 参数名 参数类型 是否必选 参数描述 base_url str False 模型网关开放的ip和端口,有默认值可以不填。功能类似OpenAI的base_url。 custom_hearders dict False 其他自定义请求头信息。 http_client httpx.client
在微服务平台管理及配置部署环境 在微服务平台新增环境信息 将CCE集群同步至微服务平台 在微服务平台配置部署环境 父主题: 通过微服务平台管理微服务及相关资源
查看注册到CloudMap的服务列表 查看服务列表 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发 > 服务发现”。 选择左侧导航栏的“服务目录 > 一方服务”。 选择“服务列表”页签,查看当前服务的信息,包括服务下的微服务、微服务实例数、接入地址
其他公有云数据接入运维中心监控服务 CES指标接入监控服务 CES告警接入监控服务 AOM告警接入监控服务 接入CES指标并生成业务报表 父主题: 使用监控服务进行资源及业务监控
加密接口。 fail to init session key fail to init session key fail to get master key from sts 这是因为集成了STS 1.0,也就是集成了sts-cse-sdk,从STS 1.0的服务器获取master
实例化参数 参数名 参数类型 是否必选 参数描述 base_url str False 模型网关开放的IP和端口,有默认值可以不填。功能类似OpenAI的base_url。 custom_hearders dict False 其他自定义请求头信息。 http_client httpx.client
使用的模型收藏后,可便捷地在收藏列表中进行部署、微调、体验。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 收藏平台资产中心的模型 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“大模型”页签。
对于华为或者第三方运营的商业化模型服务,支持通过API接入到AI原生应用引擎。模型运营方负责模型能力及技术支持,租户自行在模型运营方订购服务,或者通过云市场订购模型服务后,在AI原生应用引擎创建平台API Key,即可通过AI原生应用引擎平台调用模型接口。 前提条件 需要具备AI原生应用引擎管理员权限,权限申
管理资产中心预置提示语 提示语是给大模型的指令,它可以是一个问题、一段文字描述,也可以是带有一系列参数的文字描述。 AI原生应用引擎资产中心预置了多款提示语模板,这些模板是基于大量应用场景下的经验或者训练语料而总结出一些优质的提示语组成结构,将其抽离成为一种模板,支持测试、一键快
负载均衡实例中的监听接收与配置的协议和端口匹配的请求。 监听再根据配置将请求转发至相应的后端服务器集群。如果配置了转发策略,监听会根据配置的转发策略评估传入的请求,如果匹配,请求将被转发至相应的后端服务器组。 后端服务器集群中健康检查正常的后端服务器将根据分配策略和在监听中配置的转发策略的路由规则接收流量,处理流量并返回客户端。
答内容,属于自然语言处理领域突破的重要技术,可以提升用户的使用体验和效率,减少用户的困惑和误解。 前提条件 已创建提示语。 优化提示语 在AI原生应用引擎的左侧导航栏选择“知识中心 > 提示语”。 在我的提示语列表中,单击操作列的“优化”,参照表1进行参数配置。 表1 在线优化提示语参数说明
集群名称 展示后端服务器集群名称,检查的是后端服务集群里的机器。 域名 输入健康检查的请求域名。 检查路径 检查路径存在,采取的是http/https形式。 打开“是否开启健康检查”开关,开启后弹出提示框,提示采用curl的形式验证该检查路径是否可用,在SLB服务器上curl弹出的ip:port/检查路径。