AI开发平台MODELARTS-Lite Server使用流程

时间:2024-12-12 19:43:04

Lite Server使用流程

ModelArts Lite Server提供多样化的xPU裸金属服务器,赋予用户以root账号自主安装和部署AI框架、应用程序等第三方软件的能力,为用户打造专属的云上物理服务器环境。用户只需轻松选择服务器的规格、镜像、网络配置及密钥等基本信息,即可迅速创建弹性裸金属服务器,获取所需的云上物理资源,充分满足算法工程师在日常训练和推理工作中的需求。

本文旨在帮助您了解Lite Server的基本使用流程,帮助您快速上手,使用流程包含以下步骤。

图1 使用流程

  1. 资源开通
    由于Server为一台裸金属服务器,因此需要先购买资源后才能使用。
    1. 首先请联系客户经理确认Server资源方案,部分规格为受限规格,因此需要申请开通您所需的资源规格。
    2. Server所需资源可能会超出华为云默认提供的资源配额(如E CS 、EIP、SFS),因此需要提交工单提升资源配额。
    3. 为子用户账号开通Server功能所需的基础权限。
    4. 由于ModelArts服务在使用过程中会访问其他依赖服务,因此需要给ModelArts进行委托授权。
    5. 购买Server资源时,需要选择虚拟私有云用于网络通信,您可以使用已有的虚拟私有云或新创建的虚拟私有云。
    6. 若使用密钥对作为登录裸金属服务器的鉴权方式,您可以使用已有的密钥对或新创建的密钥对
    7. 在ModelArts控制台购买Server资源。
  2. 资源配置

    完成资源购买后,需要对网络、存储、软件环境进行相关配置。

  3. 资源使用

    完成资源配置后,您可以登录到服务器进行训练和推理,具体案例可参考Lite Server资源使用

  4. 资源管理

    Lite Server提供启动、停止、切换操作系统等管理手段,您可在ModelArts控制台上对资源进行管理。

表1 相关名词解释

名词

含义

裸金属服务器

裸金属服务器是一款兼具虚拟机弹性和物理机性能的计算类服务,为您和您的企业提供专属的云上物理服务器,为核心数据库、关键应用系统、高性能计算、大数据等业务提供卓越的计算性能以及数据安全。

由于Server是一台裸金属服务器,在ModelArts管理控制台购买Server后,会在BMS管理控制台上创建一台与Server对应的裸金属服务器,后续挂载磁盘、绑定弹性网络IP等操作可在BMS服务控制台上完成。

更多裸金属服务器的介绍请见虚拟私有云 VPC

xPU

xPU泛指GPU和NPU。

  • GPU,即图形处理器,主要用于加速深度学习模型的训练和推理。
  • NPU,即神经网络处理器,是专门为加速神经网络计算而设计的硬件。与GPU相比,NPU在神经网络计算方面具有更高的效率和更低的功耗。

密钥对

弹性裸金属支持SSH密钥对的方式进行登录,用户无需输入密码就可以登录到弹性裸金属服务器,因此可以防止由于密码被拦截、破解造成的账户密码泄露,从而提高弹性裸金属服务器的安全性。

说明:

为保证云服务器安全,未进行私钥托管的私钥只能下载一次,请妥善保管。

虚拟私有云

虚拟私有云(Virtual Private Cloud,VPC)为裸金属服务器构建隔离的、用户自主配置和管理的虚拟网络环境,提升用户云中资源的安全性,简化用户的网络部署。您可以在VPC中定义安全组、VPN、IP地址段、带宽等网络特性。用户可以通过VPC方便地管理、配置内部网络,进行安全、快捷的网络变更。同时,用户可以自定义安全组内与组间的访问规则,加强裸金属服务器的安全保护。更多VPC介绍请见虚拟私有云 VPC

support.huaweicloud.com/usermanual-server-modelarts/usermanual-server-0002.html