检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
模型使用指引 操作指引 图1 模型使用操作指引 表1 模型使用流程详解 序号 流程环节 说明 1 基于微调数据集进行模型微调 创建微调数据集 收藏预置微调数据集 对于需要个性化定制模型或者在特定任务上追求更高性能表现的场景,往往需要对大语言模型进行模型微调以适应特定任务。微调数据
开源模型怎么部署? 开源模型的部署需要购买推理单元,具体操作如下: 在AI原生应用引擎的左侧导航栏选择“资产中心”,选择“大模型”页签。 将鼠标光标移至待部署的开源模型卡片上,单击“部署”。 在“创建部署服务”页面,可以查看到需要几个推理单元,单击“购买推理单元资源”。 图1 创建部署服务
评测模型 平台支持从多个维度对模型的能力、性能进行评估,以保证模型效果,为模型选型提供可靠依据。 约束与限制 仅支持对文本对话类型的模型服务进行评测。 前提条件 评测模型前,请先通过调测/体验模型功能确认模型可用。 创建评测任务 在AI原生应用引擎的左侧导航栏选择“模型中心 > 模型评测”,单击“创建评测任务”。
值新增字段。 事件列表:选择默认receiveOne。 参数列表:可单击添加需要联动的参数字段。映射数据设置为Restful的请求参数名。 例如,发送卡片绑定值为name,那么接收卡片需要在“接收消息”中添加参数name0。 在右侧配置“属性配置”。 查看卡片模板信息,不可修改。
SDK功能介绍 运维中心SDK功能介绍 表1 STS SDK功能矩阵 功能 Java 读取微服务身份证书 √ 连接STS-Server获取密钥、认证凭据等 √ 连接STS-Server获取敏感配置 √ 解密敏感数据 √ 微服务间通信认证 √ 微服务间通信敏感数据加密 √ 表2 Cloud
Agent问答的时候没有回答 思考模型没有配置鉴权,或者鉴权失效了,可以通过模型调测功能测试思考模型是否正常,具体操作请参见调测/体验模型。 父主题: AI原生应用引擎
错误处理 在使用AI原生应用引擎SDK时,当服务端或者SDK端出错时,SDK会返回相应的异常信息,请参见下表进行处理。 状态码 错误码 错误信息 描述 处理措施 200 AIAE.22001001 API调用异常 API调用异常 调用接口url、请求方式错误或出现访问其他用户资源的越权问题,请检查后重试
版本变更记录 表1 版本变更记录 版本 变更类型 说明 0.0.1 - 第一次发布。 父主题: AI原生应用引擎SDK API
pStage的开发中心、运维中心,并完成相关配置。 2 应用开发 配置开发团队及服务扩展信息 添加开发中心用户 开发中心的用户数根据购买规格有相应的用户数量限制,组织管理员通过用户的添加或删除来合理管理开发中心的使用人员。 创建团队 在开发中心进行服务开发前,需要组织管理员先创建一个团队,将团队关联需要开发的服务。
面。 在版本详情页面的“版本持续交付”区域,选择“持续开发 > 版本基线化”。 在“版本基线化”页面,单击“添加基线化软件包”(最多可添加20个基线化软件包),弹出“添加基线化软件包”页面。 在“选择流水线”下拉列表选择流水线,确认最近一次发布构建信息。 单击右下角“基线化”。开
体验Agent Agent体验是指以对话的形式,对自创建的Agent或平台资产中心预置的AI应用进行体验调测,以发现并解决Agent接口上的问题和错误。 体验我的Agent 在AI原生应用引擎的左侧导航栏选择“Agent编排中心 > 我的Agent”。 选择“我创建的”页签,单击Agent列表“操作”列的“体验”。
使用Agent 支持通过API接口调用或Web界面访问两种方式使用Agent。 前提条件 需要获取Agent的发布地址。 使用Agent Web UrI 直接打开Web链接访问应用。 如果创建Agent时,使用配置变量的方式实现了记忆能力,体验时输入变量值,作为Agent记忆信息存储,单击“保存”。
敏感数据。 为集群主机添加标签 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 弹性资源服务(ERS)”。 选择左侧导航栏的“集群列表”。 在集群列表单击集群名称,进入集群详情页面。 选择左侧导航栏的“主机列表”。 单击待添加标签主机所在行“操作”列的“更多
面。 在版本详情页面的“版本持续交付”区域,选择“持续开发 > 版本基线化”。 在“版本基线化”页面,单击“添加基线化软件包”(最多可添加20个基线化软件包),弹出“添加基线化软件包”页面。 在“选择流水线”下拉列表选择流水线,确认最近一次发布构建信息。 单击右下角“基线化”。开
思考模型和问答模型的区别 思考模型:用于任务规划和选择组件,主要用于工作流、知识库、工具的调用,以及入参的识别传递等。 问答模型:主要用于问答及总结。 父主题: AI原生应用引擎
情页面。 在版本详情页面的“版本持续交付”区域,选择“持续规划 > 需求规划”。 在“需求规划”页面,单击“添加需求”。 勾选需要为版本关联的需求,然后单击“确定”。添加后需求会显示在需求规划列表中。 如果后续需要取消需求与版本的关联,可以在列表中,单击需求所在行操作列的“从此版本移除”,移除该需求。
protocol-login.oauth.clientSecret,org.app.jwt-key 启动敏感配置项自动解密。 在微服务的启动类中添加@EnableStsEncryptableProperties注解。 父主题: 在ACMS中管理敏感配置
protocol-login.oauth.clientSecret,org.app.jwt-key 启动敏感配置项自动解密。 在微服务的启动类中添加@EnableStsEncryptableProperties注解。 父主题: 管理敏感配置
面。 在版本详情页面的“版本持续交付”区域,选择“持续开发 > 版本基线化”。 在“版本基线化”页面,单击“添加基线化软件包”(最多可添加20个基线化软件包),弹出“添加基线化软件包”页面。 在“选择流水线”下拉列表选择流水线,确认最近一次发布构建信息。 单击右下角“基线化”。开
modules模块 HttpxClient ModelRouter PromptTemplate KnowledgeRetriever ApplicationCenter 父主题: AI原生应用引擎SDK API