检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
yaml配置文件参数配置说明 本小节主要详细描述demo_yaml样例配置文件、配置参数说明,用户可根据实际自行选择其需要的参数。 表1 模型训练脚本参数 参数 示例值 参数说明 model_name_or_path /home/ma-user/ws/tokenizers/Qwen2-72B
使用kv-cache-int8量化 kv-cache-int8是实验特性,在部分场景下性能可能会劣于非量化。当前支持per-tensor静态量化,支持kv-cache-int8量化和FP16、BF16、AWQ、smoothquant的组合。 kv-cache-int8量化支持的模型请参见支持的模型列表和权重文件。
显存溢出错误 在训练过程中,常见显存溢出报错,示例如下: RuntimeError: NPU out of memory. Tried to allocate 1.04 GiB (NPU 4; 60.97 GiB total capacity; 56.45 GiB already
Yaml配置文件参数配置说明 本小节主要详细描述demo_yaml配置文件、配置参数说明,用户可根据实际自行选择其需要的参数。 表1 模型训练脚本参数 参数 示例值 参数说明 model_name_or_path /home/ma-user/ws/tokenizers/Qwen2-72B
删除订阅 接口说明 应用服务器可调用此接口删除物联网平台中的指定订阅配置。 URI 请求方法 DELETE URI /v5/iot/{project_id}/subscriptions/{subscription_id} 传输协议 HTTPS 请求参数 名称 必选/可选 类型 位置
附录3-其他附加性说明 本文档中提供的API接口均采用短连接(短信接口除外,短信接口可支持长连接。),平台服务器作为服务端时会主动拆链,建议SP作为客户端时不要主动拆链,等接收到服务端的FIN, ACK后按照正常四次挥手拆链。 若SP主动拆链,可能造成该链路对应的端口短时间不可用,影响SP发送请求。
Protocol)自动获取IP地址,此时网络中需要有DHCP服务器。 单击“下一步”,进入“服务器设置”页面,请联系企业管理员获取参数。 云平台类型选择“华为云”,如图2所示,单击“激活”,在弹出的对话框中输入激活码。 图2 华为云 单击“下一步”,进入“视频输入”配置页面,如图3所示,参数说明表2所示。 图3 视频输入
调用API访问在线服务时,对预测请求体大小和预测时间有限制: 请求体的大小不超过12MB,超过后请求会被拦截。 因APIG(API网关)限制,平台每次请求预测的时间不超过40秒。 SSE在线服务调用 SSE协议本身不提供额外的认证方式,和HTTP请求方式一致。 可以使用ModelArts提供的以下认证方式:
of the function exceeds the maximum allowed limit. 函数返回值内容超平台限制。 请检查函数返回值内容的大小是否超过平台限制(6M)。 500 FSS.4005 state is undefined. 状态未定义。 检查状态信息。 500
对应配置文件中config.GREY_TEST_SWITCH。 灰度测试服务ID 对应配置文件中config.GREY_TEST_SERVICE_ID。 灰度测试平台接口url 对应配置文件中config.GREY_TEST_URL。 节点级流控告警阈值 如果“节点级流控 ”次数达到阈值将产生告警。 请求数量预告警
Hdfs、大数据相关驱动安装与Standalone模式local配置 配置驱动 hadoop依赖.zip。 影响数据源中hdfs数据源的连接。 压缩包内的jar包放入工作目录:lib\edi\hadoop目录下。 此目录会内自带edi-hadoop-deps-4.4.1-SNAPSHOT
Websphere集群部署 实例说明 创建概要文件 服务启动 创建集群 IHS的部署 安装插件 应用部署与启动应用程序 父主题: Websphere中部署ABI
Websphere常用调配 部署调优配置 Web容器传输链 进入WAS控制台,依次进入页面:“应用程序服务器 > server2 > Web 容器传输链” 图1 部署调优配置1 修改以上各资源的相关参数,可以默认参数基础上,将连接数和超时时间扩大10倍: 图2 部署调优配置2 线程池最大大小扩大10倍
如何处理启动一个新服务后导致一个节点内存使用率过高的问题? 问题描述 启动一个新服务导致一个节点内存使用率过高,怎么处理? 解决方法 设置调度策略亲和性,可以使服务实例按亲和性节点部署即可。 父主题: 应用运维
微服务专享版引擎版本从1.x升级到2.x时有哪些注意事项? 微服务引擎专享版从1.x升级到2.x的过程中及升级完以后可能会出现的现象及解决方法如下: 现象1:在微服务引擎专享版从1.x版本升级至2.x版本的过程中,使用接口获取配置或更新配置失败,报connection refused或Connection
创建安全认证账号名和密码 为开启了安全认证的微服务引擎专享版创建账号名和密码,请参考系统管理。 您可以使用关联了admin角色权限的账号创建新账号,根据实际业务需求把合适的角色同账号关联。使用该账号的用户则具有对该微服务引擎的相应的访问和操作权限。 您可以使用关联了admin角色
在WiseDBA中下线及还原Schema 下线Schema是从WiseDBA的Schema列表中进行软删除,业务数据库中的Schema并没有被删除,所有下线的Schema在回收站中展示,下线的Schema支持还原。 约束与限制 GaussDB和RDS for PostgreSQL数据库不支持此功能。
AstroZero对象数据迁移概述 导入导出元数据和数据主要用于实现数据的迁移和备份,如迁移旧的元数据和数据去新的环境,保持对象的一致和兼容。从而实现在不同的账号间或环境间的数据迁移,避免重复开发和不兼容的开发。 AstroZero支持通过“定时/立即导出”、“按计划导出”两种方
产品数字化作业流卡片 添加产品数字化作业流卡片 进入IPDCenter基础服务登录页面,输入账号和密码,单击“登录”。 在角色桌面首页,单击自定义桌面页签上的,进入编辑状态。 单击“增加功能卡片”,在卡片列表的常用卡片区域选择“产品数字化作业流”卡片。 将“产品数字化作业流”卡片拖拽到角色桌面待添加区域。
从Manifest文件导入数据到数据集 前提条件 已存在创建完成的数据集。 准备需要导入的数据,具体可参见从Manifest文件导入规范说明。 需导入的数据,已存储至OBS中。Manifest文件也需要存储至OBS。 确保数据存储的OBS桶与ModelArts在同一区域,并确保用户具有OBS桶的操作权限。