AI开发平台MODELARTS-附录:大模型推理常见问题:问题3:使用llama3.1系列模型进行推理时报错
问题3:使用llama3.1系列模型进行推理时报错
使用llama3.1系模型进行推理时报错:ValueError: 'rope_scaling' must be a dictionary with two fields, 'type' and 'factor', got {'factor': 8.0, 'low_freq_factor': 1.0, 'high_freq_factor': 4.0, 'original_max_position_embeddings': 8192, 'rope_type': 'llama3'}
- ModelArts推理部署_OBS导入_模型包规范-华为云
- ModelArts推理部署_模型_AI应用来源-华为云
- ModelArts推理部署_AI应用_部署服务-华为云
- ModelArts推理部署_纳管Atlas 500_边缘服务-华为云
- ModelArts计费说明_计费简介_ModelArts怎么计费
- ModelArts模型训练_创建训练作业_如何创建训练作业
- ModelArts推理部署_在线服务_访问在线服务-华为云
- ModelArts是什么_AI开发平台_ModelArts功能
- 华为云盘古大模型_华为云AI大模型_盘古人工智能
- ModelArts推理部署_创建AI应用_自定义镜像规范-华为云