AI开发平台MODELARTS-准备BF16权重:方式一:直接下载已经转换成功的BF16权重

时间:2025-02-08 14:09:14

方式一:直接下载已经转换成功的BF16权重

通过下述地址直接下载HuggingFace社区中开发者贡献的已经转换成功的BF16权重。建议在Server机器上创建${path-to-file}/deepseekV3-bf16或${path-to-file}/deepseekR1-bf16目录,并直接将权重文件下载到该目录中。

opensourcerelease/DeepSeek-V3-bf16

opensourcerelease/DeepSeek-R1-bf16

下载完成后,需要修改权重文件中config.json文件,把model_type字段值改为“deepseekv2”。

support.huaweicloud.com/bestpractice-modelarts/modelarts_ds_infer_0003.html