检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
应用示例 与文本对话模型进行交互 场景描述 提供用户与模型进行对话的能力,用户将文本内容写入到content中,选择填写合适的文本对话模型,与模型进行交互。其中环境变量WISEAGENT_API_KEY填写AI原生应用引擎的平台API KEY,该值用于鉴权,为必填。返回结果存在r
事的复杂性和深度。大模型会基于提示语所提供的信息,生成对应的文本或者图片。 测试提示语 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“提示语模板”页签。 将鼠标光标移至提示语模板卡片上,单击“测试”,进入模型调测页面。 在调测文本对话类型模型时,将提示语
持客户打通自己的业务能力API,将大模型的能力结合进入自己的业务链路。 提供支撑AI原生应用运行的整套模型工具链,包括数据管理、模型接入、模型调优、知识工程等能力,帮助客户选好、管好、用好大模型,从而提升大模型应用效果。 构建企业应用与大模型之间的安全隔离带,结合华为云安全控制机制,保障AI原生应用安全可信。
步骤三:配置基础数据:定义异常检测时间、指标、维度等基础信息。 步骤四:配置训练模型:配置异常检测算法模型,并进行模型训练。 步骤五:配置告警:配置异常检测生成的告警是否推送、告警级别等内容。 (可选)步骤六:配置大盘显示:系统会默认配置告警总览页面显示样式,如需修改,可单击“大盘”进行设置。 步骤一:新增任务 进入AppStage运维中心。
load 问题现象 judge日志中出现ERROR - fail to load错误提示,如下图 可能原因 日志中提示加载模型失败,可能是因为容器在启动时加载模型失败。 解决方法 依次单击“初始化Daemon”、“注册任务”和“启动任务”,重启judge,重新启动容器后观察是否恢复正常。
status code: 400, task: control sudo permission, status: failed 问题现象 SLB部署失败,日志详细信息提示如下: fail to operator sudo, message: send request fail, status
模型中心是集中管理用户微调后的模型、模型微调流水线(即模型微调任务),以及调测模型。 支持区域: 华北-北京四 创建及管理模型 创建模型微调流水线 调测模型 查看模型调用记录 知识中心 数据是模型训练(含数据标注)以及知识库的基础,在整个模型、知识库中起着至关重要的作用。平台提供统一的数据管理
取字段,索引配置时配置所提取的字段作为附加字段返回时,该字段有内容,即索引配置中category为CHUNK_FRAGMENT,retrieval_return为true。 metadata:默认包含order、file_name、path三个字段,若索引配置时配置所提取的字段作
nf/ssl/sample/resty-auto-ssl-fallback.pem.Permission denined 问题现象 SLB部署失败,日志详细信息提示如下: "cannot access /opt/huawei/openresty/nginx/conf/ssl/sa
模式和工作流模式两种类型的Agent。 LLM模式下,将准备好的模型服务(必选)、工具、工作流及知识库等编排成Agent。 工作流模式下,用户与工作流进行对话,因此必须添加工作流,不支持添加模型、工具、知识库等配置。 2 体验Agent 以对话的形式,对创建的Agent或平台资产
选择微服务列表操作列的“更多 > 配置变更”。 您也可以单击微服务列表操作列的“部署记录”,在部署记录列表中,单击最后一次部署成功记录操作列的“配置变更”,进入配置变更页面。 在配置变更页面可以编辑滚动升级策略、启动命令,编辑微服务在SLB上负载均衡的权重,新增HOST配置、环境变量等。 如果是使用动
选择微服务列表操作列的“更多 > 配置变更”。 您也可以单击微服务列表操作列的“部署记录”,在部署记录列表中,单击最后一次部署成功记录操作列的“配置变更”,进入配置变更页面。 在配置变更页面可以编辑滚动升级策略、启动命令,编辑微服务在SLB上负载均衡的权重,新增HOST配置、环境变量等。 如果是使用动
>=30000" ulimit -n "ulimit -n should >=100000" 问题分析 SLB从1.4.5版本开始,自动部署前置检查步骤增加了对系统参数配置的校验,以保证SLB部分功能的正常使用。 表1 参数说明 参数 防呆触发条件 触发动作 fs.file-max <100000
藏及鉴权,再进行调用。 大模型 大模型页签下展示平台预置的大模型和平台接入的第三方模型服务。 平台预置的开源模型 开源模型Qwen系列、deepseek-coder系列等 请参考将已有模型部署为模型服务进行部署,部署后即可进行调测/体验、调用。 开源模型chatglm3-6b 平
0列表操作列的“同步”,在弹出的提示框中单击“确定”,将部署服务下服务环境管理中的环境信息同步至微服务平台。 撤销同步 单击环境信息管理3.0列表操作列的“撤销同步”,在弹出的提示框中单击“确定”,撤销同步的环境信息。 父主题: 在微服务平台管理及配置部署环境
监控服务(ServiceInsight)”。 选择左侧导航栏的“AI辅助诊断 > 异常检测”,进入“异常检测”页面。 单击“快速配置”,进入任务基础信息快速配置页面。 配置任务参数,参数说明如表1所示。 表1 配置任务参数说明 参数名称 参数说明 指标 选择指标仓库的指标。 任务名称 根据所选指标自动生成,可以
微服务平台”。 选择左侧导航栏的“环境管理 > CCE集群管理”。 选择“共享集群”页签,查看共享给当前服务的集群。 父主题: 在微服务平台管理及配置部署环境
广泛纳入业界优秀大模型,快速接入模型,提供行业模型评测能力,对多系列、多规格、多版本、多领域、多场景的大模型完成分级分权等精细化管理。 基于大模型快速构建AI原生应用,支持可视化画布流程编排,开箱即用的RAG/Prompt模板应用,帮助企业用好大模型。 构建企业应用与大模型之间的安全隔离带,保障智能应用安全可信。
目前仅部署在“华北-北京四”区域,Endpoint为“aiae.appstage.myhuaweicloud.com”。 基本概念 大模型推理服务 直接调用预置大模型提供API完成推理过程。 私有模型部署 针对已经微调训练好的模型,如需评测此模型效果,或通过应用调用此模型,则需将模型部署为线上服务。
集进行模型训练、知识库构建等,快速完成平台使用并验证模型训练效果。 模型管理 用户可以自定义创建模型、模型服务及在线测试模型,检验模型的准确性、可靠性及反应效果。 提示语管理 用户自定义创建的、收藏的以及平台预置的提示语模板进行优化和改进。 大模型微调 提供调整大型语言模型的参数