云服务器内容精选

  • 初始化 登录 函数工作流 控制台,区域选择“上海一”。在左侧导航栏选择“应用中心”,在“应用程序”列表中单击需要初始化应用名称,进入“总览”页面。 在“总览”页面,单击“初始化自定义模型”开始配置。 图1 初始化自定义模型 VPC、子网、文件系统请选择前面创建的资源,函数访问路径默认为“/mnt/auto”,其他参数请根据实际业务情况填写。配置完成后,单击“确定”等待初始化完成。 图2 初始化自定义模型配置 步骤3完成后,单击“上传模型”,进入文件管理页面。默认用户名和密码均为admin,登录后请修改密码,保证数据安全。 图3 文件管理 部分关键目录如表1。 表1 关键目录路径 路径 用途 sd/models/Stable-diffusion 用于保存checkpoint模型文件。 sd/models/VAE 用于保存VAE文件。 sd/models/Lora 用于保存Lora模型。 sd/extensions 用于保存插件。 sd/outputs 用于保存生成结果。 父主题: 自定义模型
  • 核心基础类介绍 使用AI Gallery SDK构建自定义模型,需要了解2个核心基础类“PretrainedModel”和“PretrainedConfig”之间的交互。 “PretrainedConfig”:预训练模型的配置基类 提供模型配置的通用属性和两个主要方法,用于序列化和反序列化配置文件。 PretrainedConfig.from_pretrained(dir) # 从目录中加载序列化对象(本地或者是url),配置文件为dir/config.json PretrainedConfig.save_pretrained(dir) # 将配置实例序列化到dir/config.json “PretrainedModel”:预训练模型的基类 包含一个配置实例“config”,提供两个主要方法,用来加载和保存预训练模型。 # 1. 调用 init_weights() 来初始化所有模型权重 # 2. 从目录中(本地或者是url)中导入序列化的模型 # 3. 使用导入的模型权重覆盖所有初始化的权重 # 4. 调用 PretrainedConfig.from_pretrained(dir)来将配置设置到self.config中 PretrainedModel.from_pretrained(dir) # 将模型实例序列化到 dir/pytorch_model.bin 中 PretrainedModel.save_pretrained(dir) # 给定input_ids,生成 output_ids,在循环中调用 PretrainedModel.forward() 来做前向推理 PretrainedModel.generate()
  • 支持的模型结构框架 AI Gallery的Transformers库支持的开源模型结构框架如表1所示。 表1 支持的模型结构框架 模型结构 PyTorch MindSpore GPU 昇腾 Llama 支持 不支持 支持 支持 Bloom 支持 不支持 支持 不支持 Falcon 支持 不支持 支持 不支持 BERT 支持 不支持 支持 不支持 MPT 支持 不支持 支持 不支持 ChatGLM 支持 不支持 支持 支持
  • Transformers库介绍 AI Gallery使用的Transformers机器学习库是一个开源的基于Transformer模型结构提供的预训练语言库。Transformers库注重易用性,屏蔽了大量AI模型开发使用过程中的技术细节,并制定了统一合理的规范。使用者可以便捷地使用、下载模型。同时支持用户上传自己的预训练模型到在线模型资产仓库中,并发布上架给其他用户使用。AI Gallery在原有Transformers库的基础上,融入了对于昇腾硬件的适配与支持。对AI有使用诉求的企业、NLP领域开发者,可以借助这个库,便捷地使用昇腾算力进行 自然语言理解 (NLU)和自然 语言生成 (NLG)任务的SOTA模型开发与应用。
  • 模型上传与加载 创建好模型路径后,将您自定义的模型上传到对应的路径下,如CheckPoint模型、VAE模型和Lora模型。 图1 CheckPoint模型 图2 VAE模型 图3 Lora模型 模型文件一般都较大,通过页面上传大文件可能因网络问题上传失败。推荐您使用华为云提供的OBS Browser+工具或者obsutil工具,使用方法请参考OBS Browser+简介或obsutil简介。 上传完成后回到Stable-Diffusion WebUI界面重新加载模型后即可看到新增模型,加载需要较长时间请耐心等待。 图4 CheckPoint新增模型 图5 VAE新增模型 图6 Lora新增模型 父主题: 自定义模型