检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
资源池名称。 请求参数 无 响应参数 状态码：200 表2 响应Body参数 参数 参数类型 描述 apiVersion String API版本。可选值如下： v2 kind String 资源类型。可选值如下： NodePoolList：节点列表 items Array of NodePool
用户项目ID。获取方法请参见获取项目ID和名称。 job_id 是 Long 训练作业的ID。 version_id 是 Long 训练作业的版本ID。 表2 Query参数 参数 是否必选 参数类型 说明 base_line 否 String 日志的基准位置，根据接口返回获得，为空的时候代表获取最新的日志。
model_name_or_path /home/ma-user/ws/tokenizers/Qwen2-72B 必须修改。加载tokenizer与Hugging Face权重时存放目录绝对或相对路径。请根据实际规划修改。 template qwen 必须修改。用于指定模板。如果设置为"
Finetune训练。 资源规格要求 推荐使用“西南-贵阳一”Region上的DevServer资源和Ascend Snt9B。 表1 环境要求 名称 版本 CANN cann_8.0.rc1 PyTorch pytorch_2.1.0 获取软件和镜像 表2 获取软件和镜像 分类 名称 获取路径
认证。 调用获取训练作业支持的公共规格接口获取训练作业支持的资源规格。 调用获取训练作业支持的AI预置框架接口查看训练作业支持的引擎类型和版本。 调用创建算法接口创建一个算法，记录算法id。 调用创建训练作业接口使用刚创建的算法返回的uuid创建一个训练作业，记录训练作业id。
ID，与Server产品所封装的BMS/ECS ID不同，若要退订Server，需要在ModelArts控制台的“资源管理 > AI专属资源池 > 弹性节点Server”中查询对应ID。 单击顶部“费用”，进入费用中心，单击“订单管理 > 退订与退换货”。 图4 退订与退换货
model_id String 模型ID。 model_name String 模型名称。 model_version String 模型版本。 weight Integer 权重，分配到此模型的流量权重。 specification String 资源规格。 instance_count
在ModelArts的Notebook中JupyterLab默认工作路径是什么？ 如何查看ModelArts的Notebook使用的cuda版本？ 在ModelArts的Notebook中如何获取本机外网IP？ ModelArts的Notebook有代理吗？如何关闭？ 在Model
String 镜像所述的SWR组织。 update_at Long 镜像最后更新的时间，UTC毫秒。 version_count Integer 镜像版本个数。 请求示例 GET https://{endpoint}/v1/{project_id}/images/group 响应示例 状态码：200
用户项目ID。获取方法请参见获取项目ID和名称。 请求参数 无 响应参数 状态码：200 表2 响应Body参数 参数 参数类型 描述 apiVersion String 资源版本。可选值如下： os.modelarts.xxxxx/v2 kind String 资源类型。可选值如下： PoolMetricsList
LLama-Factory ShareGPT 指令微调数据：ShareGPT 格式来源于通过记录 ChatGPT 与用户对话的数据集，主要用于对话系统的训练。它更侧重于多轮对话数据的收集和组织，模拟用户与 AI 之间的交互。数据集包含有以下字段： conversations：包含一系列对话对象，每个
LLama-Factory ShareGPT 指令微调数据：ShareGPT 格式来源于通过记录 ChatGPT 与用户对话的数据集，主要用于对话系统的训练。它更侧重于多轮对话数据的收集和组织，模拟用户与 AI 之间的交互。数据集包含有以下字段： conversations：包含一系列对话对象，每个
创建”，开始创建AI应用。 设置创建AI应用的相应参数。此处仅介绍关键参数，设置AI应用的详细参数解释请参见从OBS中选择元模型。 根据需要自定义应用的名称和版本。 模型来源选择“从对象存储服务（OBS）中选择”，元模型选择转换后模型的存储路径，AI引擎选择“Custom”，引擎包选择准备镜像中上传的推理镜像。
LLama-Factory ShareGPT 指令微调数据：ShareGPT 格式来源于通过记录 ChatGPT 与用户对话的数据集，主要用于对话系统的训练。它更侧重于多轮对话数据的收集和组织，模拟用户与 AI 之间的交互。数据集包含有以下字段： conversations：包含一系列对话对象，每个
LLama-Factory ShareGPT指令微调数据：ShareGPT 格式来源于通过记录 ChatGPT 与用户对话的数据集，主要用于对话系统的训练。它更侧重于多轮对话数据的收集和组织，模拟用户与 AI 之间的交互。数据集包含有以下字段： conversations：包含一系列对话对象，每个
llama3.1-8b llama3-8b llama2-7b yi-6b 准备工作 完成准备工作内容，生成benchmark-cli工具。 解压版本包data.tgz：测试样例数据；比如工作目录为：/homa/ma-user/LLaMAFactory # 将默认数据解压config同级目录
任务完成之后会在test-benchmark目录下生成excel表格： 性能结果 LLaMAFactory_train_performance_benchmark_<版本号>_<时间戳>.xlsx 表格样例如下： 父主题： 训练benchmark工具
本章节介绍如何在Notebook使用tensorRT量化工具实现推理量化。 Step1使用tensorRT量化工具进行模型量化 在GPU机器上使用tensorRT 0.9.0版本工具进行模型量化，工具下载使用指导请参见https://github.com/NVIDIA/TensorRT-LLM/tree/v0.9.0。
llama3.1-8b llama3-8b llama2-7b yi-6b 准备工作 完成准备工作内容，生成benchmark-cli工具。 解压版本包data.tgz：测试样例数据；比如工作目录为：/homa/ma-user/LLaMAFactory # 将默认数据解压config同级目录
任务完成之后会在test-benchmark目录下生成excel表格： 性能结果LLaMAFactory_train_performance_benchmark_<版本号>_<时间戳>.xlsx 表格样例如下： 父主题： 训练benchmark工具
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
