检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
服务器上的资源,通常使用URL参数指定要删除的资源。 put:put请求,用于更新服务器上的资源,通常将更新的数据放在请求体中。 patch:请求服务器更新资源的部分内容。当资源不存在的时候,patch可能会去创建一个新的资源。 API请求体架构 请求头 HTTP请求消息的组成部
模型微调是指调整大型语言模型的参数以适应特定任务的过程,适用于需要个性化定制模型或者在特定任务上追求更高性能表现的场景。这是通过在与任务相关的微调数据集上训练模型来实现的,所需的微调量取决于任务的复杂性和数据集的大小。在深度学习中,微调用于改进预训练模型的性能。 支持将平台资产中心预置的部分模型作
管理工作流 创建工作流 工作流基础节点说明
管理平台租户鉴权信息 新增AK/SK访问密钥 新增平台API Key
组件库包含基础组件、图表组件、高级组件,单击对应组件名称,即可查看该组件内的全部组件。 画布上显示标尺,在画布最下方,可设置画布的宽高、背景图片及颜色、置空背景、放大、缩小、自适应、缩略图导航、组件对齐方式,也可以手动输入画布的缩放比例,撤销与恢复在画布中对组件的操作。 在左侧“图层”下,为组件设置显示效果,操作图标解释请参考表1。
ModelRouter PromptTemplate KnowledgeRetriever ApplicationCenter 父主题: AI原生应用引擎SDK介绍
test failed [FAILED" 解决办法 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发 > 负载均衡”。 选择左侧导航栏的“监听管理”。 在监听管理页面,单击监听名称。 在监听详情页面选择“后端服务器”页签,检查该后端服务器集群中的节点是否都在线,如果都下线会报此错误。
API Key是每个用户单独的身份认证,是个人调用应用接口的依据,必须妥善保管。租户开发的Agent在调用平台接口时需要进行平台鉴权认证,可以使用“平台API Key”进行平台的鉴权认证。 背景信息 对于华为或者第三方运营的商业化模型服务,支持通过API接入到AI原生应用引擎。模型运营
平台有没有预置模型? 平台预置了开源模型chatglm3-6b,并提供对应的模型服务API,但是该模型能力有限,只能作为问答模型,不能作为思考模型。首次使用该模型服务API需要订购免费的“ChatGLM3-6B大模型服务API在线调用”资源,订购后即可进行体验,订购操作请参见购买AppStage。
str False 模型网关开放的ip和端口,有默认值可以不填。功能类似OpenAI的base_url。 custom_hearders dict False 其他自定义请求头信息。 http_client httpx.client False 自定义的httpx client。 kwargs
[Service proxy.apply_sudo._wrapped_f]: fail to operator sudo,message: send request fail, status code: 400, error: None, message: illegal param\"
新增AK/SK访问密钥 AK/SK访问密钥是每个用户单独的身份认证,是个人调用应用接口的依据,必须妥善保管。租户创建Agent在调用平台接口时需要进行平台鉴权认证,可以使用“AK/SK访问密钥”进行平台的鉴权认证。 前提条件 需要具备AI原生应用引擎管理员权限,权限申请操作请参见AppStage组织成员申请权限。
mmap(MAP_ANON|MAP_SHARED, 524288000) failed (12: Cannot allocate memory) nginx: [alert] munmap(FFFFFFFFFFFFFFFF, 524288000) failed" 解决方法 使用的机器最低规格为2C8G。 登录SLB实
解决:使用正确的密码。 原因2:如果用的是cloud+stsl连的高斯数据库,原因是没有STS的调用步骤。 通过搜索rainbow日志关键字:Password is Empty! 解决:正确调用STS。 原因3:本地连接报这个错。 解决: 先把配置信息删除,给Schema创建新的业务账号,新增配置信息。
在配置工作流时,选择引入变量,根据Agent中定义的变量类型(一般变量或敏感变量)来设置工作流的入参,如图2所示,具体操作请参见创建工作流。 图2 引入变量 通过API调用Agent时,将Agent中配置的变量(一般变量或敏感变量)传递给API,即将请求参数variables填写为Agent中配置的变量,具体操作请参考调用Agent。
KnowledgeRetriever提供了知识库检索的能力,可以检索开发者的知识库,提取相关的信息。 实例化 表1 实例化参数 参数名 参数类型 是否必选 参数描述 base_url str False 模型网关开放的ip和端口,有默认值可以不填。功能类似OpenAI的base_url。 custom_hearders
PromptTemplate提供了提示语编写与组装的能力,目前支持f-string和jinja两种形式的模板。 类属性 表1 类属性 参数名 参数类型 是否必选 参数描述 input_variables List[str] True 提示语模板所需的变量名称列表 template str True
创建Agent(工作流模式)时,所选工作流的起始节点必须引入用户对话输入,包含默认的WISEAGENT_USER_INPUT参数,如图1所示,表示在Agent调用工作流时,以用户在问答对话中输入的内容作为工作流的请求参数。不满足要求的工作流无法选用。 图1 引入用户对话输入 父主题: AI原生应用引擎
限。 调用资产中心工具前配置认证鉴权 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“工具”页签。 鼠标光标移至工具卡片上,单击“设置鉴权”。 在“设置鉴权信息”对话框,设置鉴权信息,单击“保存”。 对于已设置鉴权的工具,在“设置鉴权信息”对话框,单击“移除”,可重新设置鉴权信息。
都会调用知识库,选择“按需调用”时由大模型决定是否调用知识库,如图1所示。具体介绍请参见创建并发布Agent。 图1 调用方式 父主题: AI原生应用引擎