检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
步骤二 修改训练超参配置 以Llama2-70b和Llama2-13b的SFT微调为例,执行脚本为0_pl_sft_70b.sh 和 0_pl_sft_13b.sh 。 修改模型训练脚本中的超参配置,必须修改的参数如表1所示。其他超参均有默认值,可以参考表1按照实际需求修改。 表1
执行精度测试启动脚本opencompass.sh,具体操作命令如下,可以根据参数说明修改参数。请确保${work_dir} 已经通过export设置。 vllm_path=${vllm_path} \ service_port=${service_port} \ max_out_len=${max_out_len}
执行精度测试启动脚本opencompass.sh,具体操作命令如下,可以根据参数说明修改参数。请确保${work_dir} 已经通过export设置。 vllm_path=${vllm_path} \ service_port=${service_port} \ max_out_len=${max_out_len}
部署的在线服务状态为告警 服务启动失败 服务部署、启动、升级和修改时,拉取镜像失败如何处理? 服务部署、启动、升级和修改时,镜像不断重启如何处理? 服务部署、启动、升级和修改时,容器健康检查失败如何处理? 服务部署、启动、升级和修改时,资源不足如何处理? 模型使用CV2包部署在线服务报错
像的代码目录CODE_DIR。修改代码如图1。 图1 修改区分训练作业中2个代码目录 使用环境变量SAVE_PATH重新覆盖权重文件保存路径,作为最终的权重保存路径。修改代码如图2。 图2 修改权重保存路径 多机训练场景下,需要将CODE_DIR修改为OBS_CODE_DIR目录
工作空间的配额值修改完成后,单击“提交修改”,当“配额值”数据刷新表示修改成功。 修改工作空间 工作空间创建成功后,支持修改信息。 在ModelArts管理控制台的左侧导航栏中,选择“工作空间”进入工作空间列表。 在工作空间列表,单击操作列的“修改”进入修改工作空间页面。 支持修改工作空间
列的“调整容器引擎空间大小”,修改容器引擎空间大小(新建节点的容器引擎空间大小会自动默认为修改后的值)。 方式二:单击某个资源池操作列的“扩缩容”(如果为包周期资源池,按钮为“扩容”),修改容器引擎空间大小(仅作用在新建节点上)。 存量节点不支持修改容器引擎空间大小,仅作用在新建
像的代码目录CODE_DIR。修改代码如图1。 图1 修改区分训练作业中2个代码目录 使用环境变量SAVE_PATH重新覆盖权重文件保存路径,作为最终的权重保存路径。修改代码如图2。 图2 修改权重保存路径 多机训练场景下,需要将CODE_DIR修改为OBS_CODE_DIR目录
real-time代表在线服务,将模型部署为一个Web Service,并且提供在线的测试UI与监控能力,服务一直保持运行。 batch为批量服务,批量服务可对批量数据进行推理,完成数据处理后自动停止。 edge表示边缘服务,通过华为云智能边缘平台,在边缘节点将模型部署为一个Web Service,需提前在IEF(智能边缘服务)创建好节点。
填写基本信息。基本信息包括“名称”、“版本”和“描述”。其中“版本”信息由系统自动生成,按“V0001”、“V0002”规则命名,用户无法修改。 您可以根据实际情况填写“名称”和“描述”信息。 设置场景类别。场景类别当前支持“图像分类”和“物体检测”。 设置数据处理类型为“数据增
t/server/api.py 修改def _exit_barrier(self)方法中的barrier_timeout参数,修改后如图1所示。 #修改前 barrier_timeout=self._exit_barrier_timeout #修改后 barrier_timeout=3000
写“容器引擎空间大小”后,单击“确认”(新建节点的容器引擎空间大小会自动默认为修改后的值)。 方式二:单击某个资源池操作列的“扩缩容”,修改容器引擎空间大小(仅作用在新建节点上)。 存量节点不支持修改容器引擎空间大小,仅作用在新建节点上,且会导致资源池内该规格下节点的docker
本,然后再使用新版本的Manifest文件导入。 方法2,修改您本地的Manifest文件,查找OBS目录下的数据变更,根据变更同步修改Manifest。确保Manifest文件与OBS目录下的数据现状相同,然后使用修改后的Manifest文件导入。 父主题: Standard数据管理
工作空间管理 查询工作空间详情 修改工作空间 删除工作空间 查询工作空间配额 修改工作空间配额 查询工作空间列表 创建工作空间
Standard一键完成商超商品识别模型部署案例中创建的在线服务名称,进入在线服务详情页,单击“修改”,进入修改在线服务页面。 图3 修改服务 开启APP认证开关,然后选择自己创建的APP应用名称,单击“下一步”后在单击“提交”即可保存修改。 图4 开启APP认证 AppCode认证预测。 在部署服务详情中
ProcessorDataSource objects 数据处理任务的输入通道。 modified_sample_count Integer 处理后修改的图片数量。 origin_sample_count Integer 处理前的图片数量。 status Integer 数据处理任务的状态。可选值如下:
版本,如果输出值为2,则为V2版本。 V1版本修改:file_io._NUMBER_OF_PROCESSES=1 V2版本修改:可以 file_io._LARGE_FILE_METHOD = 1,将模式设置成V1然后用V1的方式修改规避,也可以直接file_io._LARGE_FILE_TASK_NUM=1。
表31 advanced_config 参数 参数类型 描述 auto_search auto_search object 超参搜索策略。 表32 auto_search 参数 参数类型 描述 skip_search_params String 需要排除的超参组合。 reward_attrs
t/server/api.py 修改def _exit_barrier(self)方法中的barrier_timeout参数,修改后如图1所示。 #修改前 barrier_timeout=self._exit_barrier_timeout #修改后 barrier_timeout=3000
string,默认为'ucb',可能取值还有'ei'、'poi',一般不建议用户修改 kappa 采集函数ucb的调节参数,可理解为上置信边界 float,一般不建议用户修改 xi 采集函数poi和ei的调节参数 float,一般不建议用户修改 TPE算法 TPE算法全称Tree-structured