AI开发平台MODELARTS-属性总览
属性总览
您可以使用ServiceStep来构建服务部署节点,ServiceStep结构如下
属性 |
描述 |
是否必填 |
数据类型 |
---|---|---|---|
name |
服务部署节点的名称,命名规范(只能包含英文字母、数字、下划线(_)、中划线(-),并且只能以英文字母开头,长度限制为64字符),一个Workflow里的两个step名称不能重复 |
是 |
str |
inputs |
服务部署节点的输入列表 |
否 |
ServiceInput或者ServiceInput的列表 |
outputs |
服务部署节点的输出列表 |
是 |
ServiceOutput或者ServiceOutput的列表 |
title |
title信息,主要用于前端的名称展示 |
否 |
str |
description |
服务部署节点的描述信息 |
否 |
str |
policy |
节点执行的policy |
否 |
StepPolicy |
depend_steps |
依赖的节点列表 |
否 |
Step或者Step的列表 |
属性 |
描述 |
是否必填 |
数据类型 |
---|---|---|---|
name |
服务部署节点的输入名称,命名规范(只能包含英文字母、数字、下划线(_)、中划线(-),并且只能以英文字母开头,长度限制为64字符)。同一个Step的输入名称不能重复 |
是 |
str |
data |
服务部署节点的输入数据对象 |
是 |
模型列表或服务相关对象,当前仅支持ServiceInputPlaceholder,ServiceData,ServiceUpdatePlaceholder |
属性 |
描述 |
是否必填 |
数据类型 |
---|---|---|---|
name |
服务部署节点的输出名称,命名规范(只能包含英文字母、数字、下划线(_)、中划线(-),并且只能以英文字母开头,长度限制为64字符)。同一个Step的输出名称不能重复 |
是 |
str |
service_config |
服务部署相关配置信息 |
是 |
ServiceConfig |
表4 ServiceConfig
属性 |
描述 |
是否必填 |
数据类型 |
---|---|---|---|
infer_type |
推理方式:取值可为real-time/batch/edge。默认为real-time。
|
是 |
str |
service_name |
服务名称,支持1-64位可见字符(含中文),名称可以包含字母、中文、数字、中划线、下划线。
说明:
该字段不填时默认为自动生成的服务名称。 |
否 |
str、Placeholder |
description |
服务备注,默认为空,不超过100个字符。 |
否 |
str |
vpc_id |
在线服务实例部署的虚拟私有云ID,默认为空,此时ModelArts会为每个用户分配一个专属的VPC,用户之间隔离。如需要在服务实例中访问名下VPC内的其他服务组件,则可配置此参数为对应VPC的ID。VPC一旦配置,不支持修改。当vpc_id与cluster_id一同配置时,只有专属资源池参数生效。 |
否 |
str |
subnet_network_id |
子网的网络ID,默认为空,当配置了vpc_id则此参数必填。需填写虚拟私有云控制台子网详情中显示的“网络ID”。通过子网可提供与其他网络隔离的、可以独享的网络资源。 |
否 |
str |
security_group_id |
安全组,默认为空,当配置了vpc_id则此参数必填。安全组起着虚拟防火墙的作用,为服务实例提供安全的网络访问控制策略。安全组须包含至少一条入方向规则,对协议为TCP、源地址为0.0.0.0/0、端口为8080的请求放行。 |
否 |
str |
cluster_id |
专属资源池ID,默认为空,不使用专属资源池。使用专属资源池部署服务时需确保集群状态正常;配置此参数后,则使用集群的网络配置,vpc_id参数不生效;与下方real-time config中的cluster_id同时配置时,优先使用real-time config中的cluster_id参数。 |
否 |
str |
additional_properties |
附加的相关配置信息。 |
否 |
dict |
apps |
服务部署支持APP认证。支持填入多个app name。 |
否 |
str、Placeholder、list |
envs |
环境变量 |
否 |
dict |
示例:
example = ServiceConfig() # 主要在服务部署节点的输出中使用
如果您没有特殊需求,可直接使用内置的默认值。