检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
附录：基于vLLM不同模型推理支持最小卡数和最大序列说明 基于vLLM（v0.6.3）部署推理服务时，不同模型推理支持的最小昇腾卡数和对应卡数下的max-model-len长度说明，如下面的表格所示。 以下值是在gpu-memory-utilization为0.9时测试得出，为服务部署所需的最小昇腾卡数及该卡数下推荐的最大
PD分离部署使用说明 什么是PD分离部署 大模型推理是自回归的过程，有以下两阶段： Prefill阶段（全量推理） 将用户请求的prompt传入大模型，进行计算，中间结果写入KVCache并推出第1个token，属于计算密集型。 Decode阶段（增量推理） 将请求的前1个token
各模型支持的最小卡数和最大序列 基于vLLM（v0.6.3）部署推理服务时，不同模型推理支持的最小昇腾卡数和对应卡数下的max-model-len长度说明，如下面的表格所示。 以下值是在gpu-memory-utilization为0.9时测试得出，为服务部署所需的最小昇腾卡数及该卡数下推荐的最大
mc2融合算子报错 Yi-34B、Qwen1.5系列、GLM4-9B模型执行lora微调策略任务时产生mc2融合算子错误。 图1 mc2融合算子错误 解决方法 修改代码文件：AscendFactory/scripts_modellink/{model_name}/3_training.sh
在运行finetune_ds.sh 时遇到报错 在运行finetune_ds.sh 时遇到报错 pydantic_core._pydantic_core.ValidationError: 1 validation error for DeepSpeedZeroConfig stage3
父主题： Spark作业开发类
Spark同步HBase数据到CarbonData样例程序 Spark同步HBase数据到CarbonData开发思路 Spark同步HBase数据到CarbonData（Java） 父主题： 开发Spark应用
√ × 在控制台变更软件开发平台套餐规格 √ × 在控制台查看软件开发平台套餐资源详情 √ √ 权限策略中出现的服务名称，与控制台中服务名称略有不同，其对应关系如表3所示。
检查签名所用的算法 500 WS.00100003 SIGN_ERROR 请求签名错误 检查请求签名 500 WS.00100005 NO_ACCESS_ERROR 无访问权限错误 检查接口访问权限 父主题： 附录
待平台运营者审核通过后，工具会从资产中心下架。 父主题： 管理工具
e.printStackTrace(); } catch (Exception e) { e.printStackTrace(); } return rs; } } 父主题： 基于JDBC开发
strings.HasPrefix(err.Error(), "connect failed.") { log.Fatal(err) } } db.Close() } } 父主题： 基于Go驱动开发
strings.HasPrefix(err.Error(), "connect failed.") { log.Fatal(err) } } db.Close() } } 父主题： 基于Go驱动开发
函数脚本的编写说明请参考自定义后端开发（函数后端）。 当前函数API支持的脚本大小最大为32KB。 完成后在页面右上角单击“保存”，保存函数后端配置。 测试后端功能。
说明： 如果配置了时间宏变量，通过DataArts Studio数据开发调度CDM迁移作业时，系统会将时间宏变量替换为“数据开发作业计划启动时间-偏移量”，而不是“CDM作业实际启动时间-偏移量”。
发送短信 # -*- coding: utf-8 -*- import json import requests # 需要先使用pip install requests命令安装依赖 # 必填,请参考"开发准备"获取如下数据,替换为实际值 url = 'https://ip:port
特征工程集成JupyterLab开发环境，提供数据探索工具，预置数据处理、模型训练等算子，支持代码可查看、可调试，是一站式的数据处理平台。 模型训练 集成VSCode开发工具，利用工具的便捷性，实现在线代码编写和调试。
项目打包 打包参考项目打包 将monitor-app进行打包得到monitor-app.jar。 父主题： 集成ModuleSDK进行数据处理
部署应用 部署应用，具体参考部署应用。 IT应用需要依赖APIGW，在部署ITy应用之前，请先部署系统应用$sys_edge_apigw。 添加流转规则 流转规则是非必选的，OT应用需要添加数据流转规则。驱动应用和IT应用不用添加。 父主题： 集成ModuleSDK进行数据处理
设备建模&发放 请参照设备建模&发放。 父主题： 集成ModuleSDK进行OT数采
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
