云服务器内容精选

  • 在线编辑模型 平台提供模型编辑器,在模型详情页单击“在线编辑”,进入该模型的在线编辑页面。如图,界面左侧显示的是该模型包内的所有文件,以目录树的形式展示,支持编程语言的渲染,支持MarkDown文件的实时双屏预览。 图10 在线编辑 新建文件夹:选中文件夹并单击,用户将新建一个该文件夹的子文件夹。选中工程文件并单击,将会新建一个新的文件夹,与用户已有的文件夹同级。 新建文件:单击,或右键文件夹,单击“新建文件”。 修改文件:单击,用户可对文件名称进行修改。 删除文件:单击,用户可删除文件。 文件(夹)名称不能为空,且只能包含数字、英文、中文、点、下划线和中划线。 删除后不可恢复,请谨慎操作。 配置界面:单击,按照喜好配置界面基本属性,查看快捷键说明。 图11 配置界面 删除当前模型文件:单击“删除”,删除当前页面的模型文件。删除后不可恢复,请谨慎操作。 保存模型文件:单击“保存”,保存当前模型。模型更新完毕请及时保存。
  • 新建版本 Octopus支持用户对已有的模型进行版本更新,步骤如下: 单击模型管理名称进入详情界面,单击“新建版本”或者模型列表页单击“新建版本”。 输入模型版本描述。 图9 模型版本描述 模型版本描述,不得超过256个字符。 关联已有算法:可选择关联的算法。 上传本地模型文件。 将本地模型文件夹拖入框内或单击选择本地模型文件夹 单击“上传”,页面提示“模型文件已加入上传队列中,等待上传”。 上传中刷新或关闭浏览器会导致文件上传异常,请谨慎操作!
  • 智驾模型列表相关操作 智驾模型列表可以进行以下操作。 表1 智驾模型列表相关操作 任务 操作步骤 编辑模型 单击操作栏中的“编辑”,编辑智驾模型。仅支持修改描述信息。初始模型不支持编辑。 删除模型 单击操作栏中的“删除”,删除智驾模型。初始模型不支持删除。 查看模型详情 单击模型名称,查看模型详情。 在模型详情页,查看模型基本信息和模型版本列表。可以对模型版本进行“模型微调”、“创建在线服务”和“删除”操作。 说明: 初始模型不支持“创建在线服务”和“删除”。 只有“创建成功”的模型版本支持“模型微调”和“创建在线服务”。 查询模型 在搜索输入框中输入搜索条件,按回车键即可查询。
  • 如何创建包 在工程根节点下面建包,需要单击工程名称菜单项的“新建包”按钮。 在包目录下面建子包目录节点,则选中包目录节点,在菜单中使用“新建包”功能即可。 选择要增加包的包节点,单击后面的选项按钮,选择“新建包”。 建包需要创建包的角色权限,如果看不到新增包的菜单项,需要申请建包对应的角色权限,权限介绍可参考权限管理,申请对应的角色。 在弹出的窗口中输入新增包的名称后单击“保存”。 父主题: 模型管理
  • 执行结果 索引的执行结果主要分为:初始态、执行中、待创建、成功和失败。 表1 执行结果 名称 说明 初始态 表示索引定义完成,待系统调用执行接口,将索引添加至应用的数据库中。 执行中 表示索引规则正在应用的数据库中执行,待返回结果。 待创建 表示索引规则未提交/应用上不存在此模型/索引字段在表中不存在,请联系运维人员处理。 成功 表示索引在应用的数据库中创建成功。 失败 表示索引在应用的数据库中创建失败,请联系运维人员处理。
  • 示例代码 在ModelArts notebook平台,Session鉴权无需输入鉴权参数。其它平台的Session鉴权请参见Session鉴权。 1 2 3 4 5 from modelarts.session import Session from modelarts.model import Model from modelarts.config.model_config import ServiceConfig, Params, Dependencies, Packages session = Session() 方式1:初始化已存在模型 1 model_instance = Model(session, model_id="your_model_id") 方式2:创建模型 基于预置镜像和OBS路径创建模型 1 2 3 4 5 6 7 8 9 10 11 12 13 model_location = "/your_obs_bucket/model_path" # 修改为真实的模型文件OBS路径 execution_code = "/your_obs_bucket/model_path/customize_service.py" runtime = "python3.7" model_instance = Model( session, model_name="input_model_name", # (可选)模型名称 model_version="1.0.0", # (可选)模型版本 source_location=model_location, # 模型文件所在的OBS路径,如:"/your_obs_bucket/model_path" model_type="PyTorch", # 模型类型 execution_code=execution_code, # (可选)存放执行脚本的OBS路径,如:"/your_obs_bucket/model_path/customize_service.py" runtime=runtime # (可选)支持的运行环境 ) dependencies会覆盖样例中config.json的相关内容,上述无需使用dependencies,dependencies格式样例可参考下方格式定义。 dependencies参数组的定义格式 SDK提供了Dependencies类对其定义,dependencies为list,list中的元组对象是Dependencies。 定义代码如下: 1 2 3 4 5 6 dependencies = [] dependency1 = Dependencies( installer="pip", # 安装方式,目前支持pip packages=packages # 依赖包集合, 定义格式参考下文关于packages的定义 ) dependencies.append(dependency1) package参数组的定义格式 SDK提供了Packages类对其定义,packages为list,list中的元组对象是Packages。 定义代码如下: 1 2 3 4 5 6 7 packages = [] package1 = Packages( package_name="package_name", # 包名 package_version="version", # 包版本号 restraint="EXACT" ) packages.append(package1) dependencies参数组的创建样例: dependencies = [] packages = [{ "package_name": "numpy", "package_version": "1.15.0", "restraint": "EXACT" }, { "package_name": "h5py", "package_version": "2.8.0", "restraint": "EXACT" }] dependency = Dependencies(installer="pip", packages=packages) dependencies.append(dependency) 基于 自定义镜像 创建模型 适用于推理服务的脚本已经内置在自定义镜像中,镜像启动时会自动拉起服务的场景。 from modelarts.session import Session from modelarts.model import Model session = Session() image_path = "custom_image_path" # 自定义镜像的swr路径 model_instance = Model( session, model_name="your_model_name", # 模型名称 model_version="0.1.0", # 模型版本 source_location="image_path", # 模型文件路径 model_type="Image" # 模型类型 )
  • 请求示例 /v1/111/applications/222/uni-search/nlp-models { "name" : "pangu_38b", "detail" : "pangu_38b", "type" : "nlp", "endpoint" : "http://10.0.0.169:31010", "extend_config" : { "deployment_id" : "123", "iam_info" : { "iam_enabled" : false, "agency_enabled" : false } } }
  • 响应参数 状态码: 400 表7 响应Body参数 参数 参数类型 描述 error_code String 错误码 最小长度:8 最大长度:36 error_msg String 错误描述 最小长度:2 最大长度:512 状态码: 500 表8 响应Body参数 参数 参数类型 描述 error_code String 错误码 最小长度:8 最大长度:36 error_msg String 错误描述 最小长度:2 最大长度:512
  • 在线编辑模型 平台提供模型编辑器,在模型详情页,“版本管理”模块的“模型编辑”栏,单击“模型编辑”,进入该模型的在线编辑页面。如图,界面左侧显示的是该模型包内的所有文件,以目录树的形式展示,支持编程语言的渲染,支持MarkDown文件的实时双屏预览。 图10 在线编辑 新建文件夹:选中文件夹并单击,用户将新建一个该文件夹的子文件夹。选中工程文件并单击,将会新建一个新的文件夹,与用户已有的文件夹同级。 新建文件:单击,或右键文件夹,单击“新建文件”。 修改文件:单击,用户可对文件名称进行修改。 删除文件:单击,用户可删除文件。 文件(夹)名称不能为空,且只能包含数字、英文、中文、点、下划线和中划线。 删除后不可恢复,请谨慎操作。 配置界面:单击,按照喜好配置界面基本属性,查看快捷键说明。 图11 配置界面 删除当前模型文件:单击“删除”,删除当前页面的模型文件。删除后不可恢复,请谨慎操作。 保存模型文件:单击“保存”,保存当前模型。模型更新完毕请及时保存。
  • 请求参数 表2 请求Header参数 参数 是否必选 参数类型 描述 X-Auth-Token 是 String 用户Token。Token认证就是在调用API的时候将Token加到请求消息头,从而通过身份认证,获得操作API的权限, 获取Token 接口响应消息头中X-Subject-Token的值即为Token。 最小长度:1 最大长度:32768 表3 请求Body参数 参数 是否必选 参数类型 描述 name 是 String 模型名称,取值范围:[5,32],允许大小写字母、数字、下划线(_)、中划线(-)和空格,只能以字母开头。 最小长度:5 最大长度:32 description 否 String 模型描述信息。 最小长度:0 最大长度:1024 type 是 String 模型类型。 枚举值: binary numerical file 是 ModelFile object 模型数据来源。 shareable 否 Boolean 是否打开组织共享。 缺省值:false base_model_id 否 String 基模型id。 缺省值:pangu-drug-model 最小长度:1 最大长度:128 表4 ModelFile 参数 是否必选 参数类型 描述 source 是 String 模型数据文件来源。 枚举值: public private url 是 String 文件URL,用户私有数据中心为项目路径、公共数据场景为obs地址。 最小长度:1 最大长度:2000 eihealth_project_id 否 String 模型文件所在项目id,仅文件为数据中心时填写。 最小长度:1 最大长度:128
  • 请求示例 创建模型,模型名称为model_name,类型为二分型,上传项目桶中file/test.csv的模型数据,打开共享开关。 https://{endpoint}/v1/{project_id}/drug-models { "name" : "model_name", "type" : "binary", "description" : "simple model", "file" : { "url" : "project:/file/test.csv", "source" : "private" }, "shareable" : true }
  • URI GET /v1/{project_id}/base-models 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String 项目ID,您可以从获取项目ID中获取。 最小长度:1 最大长度:128 表2 Query参数 参数 是否必选 参数类型 描述 limit 否 Integer 限制量,单次查询总量,必须由数字组成,默认为100,取值范围[1,1000]。 最小值:1 最大值:1000 缺省值:100 offset 否 Integer 偏移量,查询起始偏移,必须由数字组成,默认为0,取值范围[0,100000000]。 最小值:0 最大值:100000000 缺省值:0 sort_dir 否 String 排序规则目前默认时间升序。 缺省值:ASC sort_key 否 String 排序规则目前默认时间升序,支持根据create_time排序。 缺省值:create_time
  • 响应参数 状态码: 200 表4 响应Body参数 参数 参数类型 描述 models Array of BaseModelDto objects 模型列表。 count Integer 模型总数。 表5 BaseModelDto 参数 参数类型 描述 name String 模型名称。 id String 模型ID。 create_time String 模型创建时间。 description String 模型描述信息。
  • 响应示例 状态码: 200 OK { "count" : 1, "models" : [ { "id" : "56e0f1b0-ac10-46a5-8fa7-b26831d7d488", "name" : "demo_name", "description" : "description", "create_time" : "2021-01-30T02:34:36Z" } ] }
  • 模型关联关系业务字典添加 在模型地图页面,在搜索栏中输入需要查询的模型数据关键字,单击“搜索”跳转模型列表界面,单击模型名称,进入模型详情页面。 单击对应模型关联关系页面“业务字典”列的“添加”。 在弹出的“添加业务字典”对话框中,完成业务字典选择。 选择需要添加的一个或多个业务字典,或在搜索栏中输入业务字典名称检索。 如果存在对应业务字典,则单击复选框选择。 如果不存在对应业务字典,则单击创建提醒,弹出“新增业务字典”对话框,具体参数配置参见表1。单击“确定”,完成业务字典创建,返回“添加业务字典”对话框。 单击“确定”,完成模型关联关系的业务字典添加。