检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
步骤二：使用Docker安装和配置正向代理 购买弹性云服务器ECS，详情请见购买ECS。镜像可选择Ubuntu最新版本。虚拟私有云选择提前创建好的VPC。 申请弹性公网IP EIP，详情请见申请弹性公网IP。 将弹性公网IP绑定到ECS，详情请见将弹性公网IP绑定至实例。 登录ECS，执行如下命令进行Do
配置Lite Server软件环境 NPU服务器上配置Lite Server资源软件环境 GPU服务器上配置Lite Server资源软件环境 父主题： Lite Server资源配置
在控制台页面操作删除专属资源池后，后端服务需要进行资源实例释放。在资源实例释放过程中，用户依然可以查询到资源池。如果需要创建专属资源池，建议等待5min后再创建，且不要使用已创建过的专属资源池名称来命名新建的专属资源池。如果做UI自动化测试，建议用例用随机串替代。 父主题： Standard专属资源池
网。 购买弹性云服务器ECS 如果您需要在服务器上部署相关业务，较之物理服务器，弹性云服务器的创建成本较低，并且可以在几分钟之内快速获得基于云服务平台的弹性云服务器设施，并且这些基础设施是弹性的，可以根据需求伸缩。操作指导请参考自定义购买ECS。 购买时需注意，ECS需要和SFS买到同一个VPC才能挂载SFS存储。
导入模型账号为子账号，主账号没有给子账号赋予模型相关权限。 权限说明请参见：策略及授权项说明； 处理方法 确认是账号欠费冻结，补交对应欠费，等待账号解冻即可； 如果是导入模型没有对应的工作权限，可以参考创建自定义策略对相应账号赋予导入模型相关权限。 父主题： 模型管理
Face权重文件以及训练代码都需要上传至SFS Turbo中。而基于SFS Turbo所执行的训练流程如下： 将SFS Turbo挂载至ECS服务器后，可直接访问SFS Turbo。通过SSH连接ECS将代码包上传至SFS Turbo中。 在表1获取基础镜像，随后通过镜像方案说明中的步骤执行代码包中llm_t
本地IDE使用PyCharm工具，远程连接访问，具体参见通过PyCharm远程使用Notebook实例。 本地IDE使用VS Code工具，远程连接访问，具体参见通过VS Code远程使用Notebook实例。 本地IDE使用SSH工具，远程连接访问，具体参见通过SSH工具远程使用Notebook。
由于安装的文件名格式不支持，导致出现“xxx.whl is not a supported wheel on this platform”报错，具体解决方法请参见2。 处理方法 安装第三方包 pip中存在的包，使用如下代码： import os os.system('pip install xxx')
VIDEO_ANNOTATION FREE_FORMAT Workflow数据集标注节点代码样例 主要包含三种场景的用例： 场景一：基于用户指定的数据集创建标注任务，并等待用户标注完成。 使用场景： 用户只创建了一个未标注完成的数据集，需要在工作流运行时对数据进行人工标注。 可以放在数据集导入节点之后，对导入的新数据进行人工标注。
规格：选择1 GPU规格。 存储配置：选择“云硬盘EVS”作为存储位置。 如果需要通过VS Code连接Notebook方式进行代码调试，则需开启“SSH远程开发”并选择密钥对，请参考VS Code连接Notebook方式介绍。 参数填写完成后，单击“立即创建”进行规格确认。 参数确认无误后
在线服务列表页面单击“名称/ID”，进入在线服务详情页面。 单击CloudShell页签，选择模型版本和计算节点，当连接状态变为时，即登录实例容器成功。 如果遇到异常情况服务器主动断开或超过10分钟未操作自动断开，此时可单击“重新连接”重新登录实例容器。 图5 CloudShell界面 部分用户登录Cloud Sh
控能力。完成模型训练后，可选择准确率理想且训练状态为“运行成功”的版本部署上线。具体操作步骤如下。 在“运行节点”页面中，待训练状态变为“等待输入”，双击“服务部署”节点，完成相关参数配置。 在服务部署页面，选择模型部署使用的资源规格。 模型来源：默认为生成的模型。 选择模型及版
x86_x64架构的主机为例，您可以购买相同规格的ECS或者应用本地已有的主机进行自定义镜像的制作。 购买ECS服务器的具体操作请参考购买并登录弹性云服务器。镜像选择公共镜像，推荐使用ubuntu18.04的镜像。 图1 创建ECS服务器-选择X86架构的公共镜像 登录主机后，安装D
流量限制QPS是评估模型服务处理能力的关键指标，它指示系统在高并发场景下每秒能处理的请求量。这一指标直接关系到模型的响应速度和处理效率。不当的QPS配置可能导致用户等待时间延长，影响满意度。因此，能够灵活调整模型的QPS对于保障服务性能、优化用户体验、维持业务流畅及控制成本至关重要。 ModelArts
ModelArts全球基础设施围绕华为云区域和可用区构建。华为云区域提供多个在物理上独立且隔离的可用区，这些可用区通过延迟低、吞吐量高且冗余性高的网络连接在一起。利用可用区，您可以设计和操作在可用区之间无中断地自动实现故障转移的应用程序和数据库。与传统的单个或多个数据中心基础设施相比，可用区具有更高的可用性、容错性和可扩展性。
如何保证自定义镜像能不因为超过35G而保存失败？ 如何减小本地或ECS构建镜像的目的镜像的大小？ 镜像过大，卸载原来的包重新打包镜像，最终镜像会变小吗？ 在ModelArts镜像管理注册镜像报错ModelArts.6787怎么处理？ 用户如何设置默认的kernel？
性能预期：QPS 20/s - 业务访问方式 推理业务访问：“客户端 -> 云服务” 或 “云客户端 -> 云服务”。 推理业务时延要求，客户端到云服务端到端可接受时延。 例如：当前是“客户端 -> 云服务”模式，客户端请求应答可接受的最长时延为2秒。 - 模型参数规模，是否涉及分布式推理
执行安装命令。 方法二：使用本地IDE远程连接Notebook准备环境 使用本地IDE如PyCharm开发工作流，您只需专注于本地代码开发即可。PyCharm连接Notebook操作请参见配置本地IDE（PyCharm ToolKit连接）。 在本地IDE的终端运行如下命令进行环境准备。Python版本要求：3
使用PyCharm ToolKit连接Notebook 本地IDE（VS Code） 当用户创建完成支持SSH的Notebook实例后，使用VS Code的开发者可以通过以下三种方式连接到开发环境中：VS Code一键连接Notebook、VS Code ToolKit连接Notebook、VS
成模型训练后，可选择准确率理想且训练状态为“运行成功”的版本部署上线。具体操作步骤如下。 在“运行节点”页面中，待服务部署节点的状态变为“等待输入”时，双击“服务部署”进入配置详情页，完成资源的参数配置操作。 在服务部署页面，选择模型部署使用的资源规格。 模型来源：默认为生成的模型。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
