检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
APP认证：在请求头部消息增加一个参数即可完成认证，认证方式简单，永久有效。 ModelArts支持通过以下几种方式调用API访问在线服务（案例中均以HTTPS请求为例）： 通过公网访问通道的方式访问在线服务：ModelArts推理默认使用公网访问在线服务。
背景信息 ModelArts的用户需要为不同的业务目标开发算法、管理和部署模型，此时可以创建多个工作空间，把不同应用开发过程的输出内容划分到不同工作空间中，便于管理和使用。 基于工作空间可以实现资源逻辑隔离、资源配额管理、细粒度鉴权和资源清理能力。
而ModelArts PRO是一款为企业级AI应用打造的专业开发套件。用户可根据预置工作流生成指定场景模型，无需深究底层模型开发细节。ModelArts PRO底层依托ModelArts平台提供数据标注、模型训练、模型部署等能力。
训练过程中的迭代次数、LOSS和吞吐数据按照“迭代次数|loss|吞吐”格式记录在日志中，AI Gallery通过环境变量找到日志，从中获取实际数据绘制成“吞吐”和“训练LOSS”曲线，呈现在训练的“指标效果”中。具体请参见查看训练效果。
查询单个样本信息 GET /v2/{project_id}/datasets/{dataset_id}/data-annotations/samples/{sample_id} modelarts:sample:getSample obs:object:GetObject √ √ 获取样本搜索条件
获取方法请参见获取项目ID和名称。 请求参数 表2 请求Body参数 参数 是否必选 参数类型 描述 collect_key_sample 否 Boolean 是否收集关键样本。
在ModelArts管理控制台，单击左侧导航栏中的“模型管理（AI应用）”，进入“自定义模型”页面，单击“创建模型”。 在“创建模型”页面，填写相关参数，然后单击“立即创建”。
“输入”和“输出”中的获取方式全部选择为：超参。 “输出”中的预下载至本地目标选择：下载，此时输出路径中的数据则会下载至OBS中。 Step3 配置超参 单击“增加超参”，在增加的超参填写框中，按照表1表格中的配置进行填写。
需要在创建模型之前，参考从0-1制作自定义镜像并创建AI应用，确保镜像可以正常启动，并可以在本地curl通返回预期内容。
Atlas 800训练服务器三维视图 Atlas 800 训练服务器（型号9000）是基于华为鲲鹏920+Snt9处理器的AI训练服务器，实现完全自主可控，广泛应用于深度学习模型开发和AI训练服务场景，可单击此处查看硬件三维视图。
curl -X POST http://${docker_ip}:8080/v1/completions \ -H "Content-Type: application/json" \ -d '{ "model": "${container_model_path}",
“VC_WORKER_NUM=4” VC_WORKER_HOSTS 多节点训练时，每个节点的域名地址，按顺序以英文逗号分隔，可以通过域名解析获取IP地址。
导入模型提示该账号受限或者没有操作权限 问题现象 在导入AI应用时，提示用户账号受限。 原因分析 提示用户账号受限，常见原因有如下几种： 导入模型账号欠费导致被冻结； 导入模型账号没有对应工作空间的权限； 导入模型账号为子账号，主账号没有给子账号赋予模型相关权限。
处理方法 登录“应用运维管理”控制台，在“配置管理 > Agent管理”中，选择未安装ICAgent的集群，并单击“安装ICAgent”。 图1 安装ICAgent 建议不要随意卸载ICAgent，否则会影响特权池详情页的参数显示。 父主题： Lite Cluster
Prefix Caching 什么是Prefix Caching 在LLM推理应用中，经常会面临具有长system prompt的场景以及多轮对话的场景。
绑核：开启CPU绑核表示工作负载实例独占CPU，可以提升应用性能（比如训练作业、推理任务性能），减少应用的调度延迟，适用于对CPU缓存和调度延迟敏感的场景。关闭绑核表示关闭工作负载实例独占CPU的功能，优点是CPU共享池可分配的核数较多。
INFO: Application startup complete.
获取数据集。动态benchmark需要使用数据集进行测试，可以使用公开数据集，例如Alpaca、ShareGPT。也可以根据业务实际情况，使用generate_datasets.py脚本生成和业务数据分布接近的数据集。
获取数据集。动态benchmark需要使用数据集进行测试，可以使用公开数据集，例如Alpaca、ShareGPT。也可以根据业务实际情况，使用generate_datasets.py脚本生成和业务数据分布接近的数据集。
获取方法请参见获取项目ID和名称。 sample_id 是 String 样本ID。 请求参数 无 响应参数 状态码： 200 表2 响应Body参数 参数 参数类型 描述 check_accept Boolean 是否验收通过，用于团队标注。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
