检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
抽取kv-cache量化系数生成的json文件路径; 如果只测试推理功能和性能,不需要此json文件,此时scale系数默认为1,但是可能会造成精度下降。 父主题: 推理模型量化
cn-southwest-2.myhuaweicloud.com/ma-group/pytorch_2_1_ascend:20240606 父主题: 准备镜像
修改tokenizer目录下面modeling_qwen.py文件,具体位置可根据上下文代码信息进行查找,修改后如图所示。 图6 修改Qwen tokenizer文件 父主题: 训练脚本说明
修改tokenizer目录下面modeling_qwen.py文件,具体位置可根据上下文代码信息进行查找,修改后如图6所示。 图6 修改Qwen tokenizer文件 父主题: 训练脚本说明参考
修改tokenizer目录下面modeling_qwen.py文件,具体位置可根据上下代码信息进行查找,修改后如图6所示。 图6 修改Qwen tokenizer文件 父主题: 训练脚本说明
6e0-66c49945dfaa" } ] } 状态码 状态码 描述 200 删除成功或者失败的提示信息。 错误码 请参见错误码。 父主题: AI应用管理
状态码 描述 200 OK 401 Unauthorized 403 Forbidden 404 Not Found 错误码 请参见错误码。 父主题: 数据管理(旧版)
查询数据处理任务的版本列表 创建数据处理任务版本 查询数据处理任务的版本详情 删除数据处理任务的版本 查询数据处理任务版本的结果展示 停止数据处理任务的版本 父主题: 历史API
使用。保存镜像,安装的依赖包不会丢失。安装完依赖包后,推荐保存镜像,避免安装的依赖包丢失。具体操作请参见保存Notebook镜像环境。 父主题: Standard镜像相关
S桶中的数据下载至SFS Turbo中。注意:需要使用用户账号中的AK和SK进行签名验证,确保通过授权的账号才能访问指定的OBS资源。 父主题: 准备工作
描述 204 添加标签成功。 400 参数非法。 401 鉴权失败。 403 权限不足。 404 资源未找到。 错误码 请参见错误码。 父主题: 服务管理
22d8a4b204", "enable" : true } 状态码 状态码 描述 201 定时调度信息。 错误码 请参见错误码。 父主题: Workflow工作流管理
"unit_en" : "minute" } ] } 状态码 状态码 描述 200 查询工作空间配额成功的响应参数。 错误码 请参见错误码。 父主题: 工作空间管理
"***05d1a553b4e188ea878e7dcb85***" } 状态码 状态码 描述 200 修改工作空间成功的响应参数。 错误码 请参见错误码。 父主题: 工作空间管理
对请求进行签名。详细的签名方法和SDK使用方法请参见API签名指南。 签名SDK只提供签名功能,与服务提供的SDK不同,使用时请注意。 父主题: 如何调用API
iam:users:getUser iam:users:listUsers iam:projects:listProjects mrs:cluster:get smn:topic:publish obs:object:PutObject obs:object:GetObject obs:object:GetObjectVersion
#原始权重与tokenizer目录,需要用户手动创建,后续操作步骤中会提示 |── llama2-13b-hf 父主题: 准备工作
S桶中的数据下载至SFS Turbo中。注意:需要使用用户账号中的AK和SK进行签名验证,确保通过授权的账号才能访问指定的OBS资源。 父主题: 准备工作
S桶中的数据下载至SFS Turbo中。注意:需要使用用户账号中的AK和SK进行签名验证,确保通过授权的账号才能访问指定的OBS资源。 父主题: 准备工作
抽取kv-cache量化系数生成的json文件路径; 如果只测试推理功能和性能,不需要此json文件,此时scale系数默认为1,但是可能会造成精度下降。 父主题: 推理模型量化