检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
表1 盘古科学计算大模型规格 模型支持区域 模型名称 说明 西南-贵阳一 Pangu-AI4S-Ocean_24h-20241130 2024年11月发布的版本,用于海洋基础要素预测,可支持1个实例部署推理。
ModelArts Studio大模型开发平台为用户提供了多种规格的专业大模型,以满足不同场景和需求。以下是当前支持的模型清单,您可以根据实际需求选择最合适的模型进行开发和应用。
实例数 设置部署模型时所需的实例数。 订阅提醒 订阅提醒 该功能开启后,系统将在任务状态更新时,通过短信或邮件将提醒发送给用户。 基本信息 服务名称 设置部署任务的名称。 描述(选填) 设置部署任务的描述。 参数填写完成后,单击“立即部署”。 父主题: 部署专业大模型
管理专业大模型部署任务 模型更新 完成创建专业大模型部署任务后,可以替换已部署的模型并升级配置,具体步骤如下: 登录ModelArts Studio大模型开发平台,在“我的空间”模块,单击进入所需空间。
实例数 设置部署模型时所需的实例数,单次部署服务时,部署实例个数建议不大于10,否则可能触发限流导致部署失败。 基本信息 服务名称 设置部署任务的名称。 描述(选填) 设置部署任务的描述。 图1 创建全球区域中期海洋智能预测部署任务 父主题: 盘古科学计算大模型微调训练实践
表2 中期天气要素预测模型、降水模型的类型 模型名称 说明 Pangu-AI4S-Weather_Precip-20241030 2024年10月发布的版本,用于降水预测,支持1个实例部署推理。
模型能力与规格 盘古NLP大模型能力与规格 盘古科学计算大模型能力与规格 盘古专业大模型能力与规格
模型类型 选择“NLP大模型”。 部署模型 选择需要进行部署的模型。 最大TOKEN长度 模型可最大请求的上下文TOKEN数。 部署方式 支持“云上部署”和“边缘部署”,其中,云上部署指算法部署至平台提供的资源池中。
资源扩缩容的步骤如下: 登录ModelArts Studio大模型开发平台,单击页面右上角“订购管理”。 在“订购管理”页面,单击“资源订购”页签,在资源列表单击操作列“扩缩容”。 在“扩缩容”页面完成当前资源的扩缩容操作,平台将根据扩缩容前后的规格差异支付或退还费用差价。
滚动升级:部分实例资源空出用于滚动升级,逐个或逐批停止旧版本并启动新版本。滚动升级时可修改实例数。选择缩实例升级时,系统会先删除旧版本,再进行升级,期间旧版本不可使用。 图1 升级模式 升级配置后,需重新启动该部署任务,升级模式即为重启的方式。
实例数:设置部署模型时所需的实例数。 作业输入方式 选择 “OBS”表示从OBS中读取数据。 作业输出方式 选择 “OBS”表示将输出结果存储在OBS中。 作业配置参数 设置模型部署参数信息,平台已给出默认值。 安全护栏 选择模式 安全护栏保障模型调用安全。
Learning,简称SSL)是一种机器学习方法,它从未标记的数据中提取监督信号,属于无监督学习的一个子集。
滚动升级:部分实例资源空出用于滚动升级,逐个或逐批停止旧版本并启动新版本。滚动升级时可修改实例数。选择缩实例升级时,系统会先删除旧版本,再进行升级,期间旧版本不可使用。 图1 升级模式 升级配置后,需重新启动该部署任务,升级模式即为重启的方式。
盘古NLP大模型能力与规格 盘古NLP大模型是业界首个超千亿参数的中文预训练大模型,结合了大数据预训练和多源知识,借助持续学习不断吸收海量文本数据,持续提升模型性能。
表2 配额限制 资源类型 默认配额限制 是否支持调整 模型实例 ModelArts Studio平台上,单个用户最多可创建和管理2000个模型实例。 是 如果希望申请提升配额,请联系客服。 功能限制 盘古大模型服务的功能限制详见表3。
父主题: 创建与管理插件
json标注文件的详细说明请参见姿态估计标注json文件说明 单个文件大小不超过50GB,文件数量最多1000个,示例如下所示: 实例分割 图片+xml 文件存放方式要求满足万物分割/实例分割格式。
父主题: 管理盘古大模型空间资产
进入需要修改子用户权限的空间,在空间内单击左侧导航栏“空间管理”,在“角色管理”页签,可以查看各角色名称及其权限的描述。 图10 角色管理 单击进入“成员管理”页签。 如图,以授权子用户“模型开发工程师”权限为例。
父主题: 创建与管理知识库