-
认证证书 - AI开发平台ModelArts
认证证书 合规证书 华为云服务及平台通过了多项国内外权威机构(ISO/SOC/PCI等)的安全合规认证,用户可自行申请下载合规资质证书。 图1 合规证书下载 资源中心 华为云还提供以下资源来帮助用户满足合规性要求,具体请查看资源中心。 图2 资源中心 销售许可证&软件著作权证书 另
-
请求超时返回Timeout - AI开发平台ModelArts
请求超时,大概率是APIG(API网关)拦截问题。需排查APIG(API网关)和模型。 处理方法 优先排查APIG(API网关)是否是通的,可以在本地使用curl命令排查,命令行:curl -kv {预测地址}。如返回Timeout则需排查本地防火墙,代理和网络配置。 检查模型是否启动成功或者模型处理单个消息的
-
访问在线服务(Token认证) - AI开发平台ModelArts
方式二:使用curl命令发送预测请求 使用curl命令发送预测请求的命令格式也分为文件输入、文本输入两类。 文件输入 curl -kv -F 'images=@图片路径' -H 'X-Auth-Token:Token值' -X POST 在线服务地址 “-k”是指允许不使用证书到SSL站点。
-
访问边缘服务 - AI开发平台ModelArts
“POST”后面跟随的是边缘节点的调用地址。 curl命令文件输入预测样例: curl -F 'images=@/home/data/cat.jpg' -X POST https://192.168.0.158:1032 -k 预测结果如图6所示。 图6 curl命令文件输入预测结果 文本输入 curl -d '{
-
访问在线服务(VPC高速访问通道) - AI开发平台ModelArts
访问在线服务(VPC高速访问通道) 背景说明 访问在线服务的实际业务中,用户可能会存在如下需求: 高吞吐量、低时延 TCP或者RPC请求 因此,ModelArts提供了VPC直连的高速访问通道功能以满足用户的需求。 使用VPC直连的高速访问通道,用户的业务请求不需要经过推理平台,
-
在推理生产环境中部署推理服务 - AI开发平台ModelArts
_vllm.sh及SSL证书。此处以chatglm3-6b为例。 ascend_vllm代码包在Step9 构建推理代码已生成。 模型权重文件获取地址请参见表1。 推理启动脚本run_vllm.sh制作请参见•创建推理脚本文件run_vllm.sh。 SSL证书制作包含cert.pem和key
-
访问在线服务(公网访问通道) - AI开发平台ModelArts
公网访问在线服务有以下认证方式,API调用请参见认证详情: 访问在线服务(Token认证) 访问在线服务(AK/SK认证) 访问在线服务(APP认证) 父主题: 访问方式
-
如何访问ModelArts - AI开发平台ModelArts
如何访问ModelArts ModelArts基于不同的产品形态提供了多种访问方式。 管理控制台方式 ModelArts Standard提供了简洁易用的管理控制台,包含自动学习、数据管理、开发环境、模型训练、AI应用管理、部署上线、AI Gallery等功能,您可以在管理控制台端到端完成您的AI开发。
-
报错“An SSH installation couldn't be found”或者“Could not establish connection to instance xxx: 'ssh' ...”如何解决? - AI开发平台ModelArts
instance xxx: 'ssh' ...”如何解决? 问题现象 或 VS Code连接Notebook一直提示选择证书,且提示信息除标题外,都是乱码。选择证书后,如上图所示仍然没有反应且无法进行连接。 原因分析 当前环境未装OpenSSH或者OpenSSH未安装在默认路径下,详情请参考VS
-
外网访问限制 - AI开发平台ModelArts
外网访问限制 日志提示“ Network is unreachable” 运行训练作业时提示URL连接超时 父主题: 训练作业
-
访问在线服务(AK/SK认证) - AI开发平台ModelArts
SDK访问,也可以通过ModelArts SDK访问。使用ModelArts SDK访问参见用户AK-SK认证模式。本文档详细介绍如何通过APIG SDK访问在线服务,具体操作流程如下: 获取AK/SK 获取在线服务信息 发送预测请求 方式一:使用Python语言发送预测请求 方式二:使用Java语言发送预测请求
-
创建访问密钥 - AI开发平台ModelArts
创建访问密钥 使用华为云账号在云上创建AI应用开发环境,需要提前创建访问密钥(AK/SK),用于对请求加密签名,确保请求的机密性、完整性和请求双方身份的正确性。 本节介绍如何通过ModelArts管理控制台创建访问密钥(AK/SK)。如果您已经获取过访问密钥,可跳过此章节。 获取访问密钥
-
推理服务访问公网 - AI开发平台ModelArts
推理服务访问公网 本章节提供了推理服务访问公网的方法。 应用场景 推理服务访问公网地址的场景,如: 输入图片,先进行公网OCR服务调用,然后进行NLP处理; 进行公网文件下载,然后进行分析; 分析结果回调给公网服务终端。 方案设计 从推理服务的算法实例内部,访问公网服务地址的方案。如下图所示:
-
访问方式 - AI开发平台ModelArts
访问方式 访问在线服务(公网访问通道) 访问在线服务(VPC高速访问通道) 父主题: 访问在线服务
-
网络访问 - AI开发平台ModelArts
网络访问 单EIP实现多节点的SSH登录和外网访问 单EIP绑定裸金属服务器 裸金属服务器支持IPV6解决方案 父主题: DevServer资源配置
-
访问在线服务(APP认证) - AI开发平台ModelArts
您需要使用专门的签名SDK对请求进行签名。 AppKey:APP访问密钥ID。与私有访问密钥关联的唯一标识符;访问密钥ID和私有访问密钥一起使用,对请求进行加密签名。 AppSecret:APP私有访问密钥,即与访问密钥ID结合使用的密钥,对请求进行加密签名,可标识发送方,并防止请求被修改。
-
访问在线服务简介 - AI开发平台ModelArts
ebsocket访问在线服务。 当前ModelArts支持访问在线服务的认证方式有以下方式(均以HTTPS请求为例): Token认证 AK/SK认证 APP认证 ModelArts支持通过以下几种方式调用API访问在线服务: 访问在线服务(公网访问通道) 访问在线服务(VPC高速访问通道)
-
访问在线服务 - AI开发平台ModelArts
访问在线服务 访问在线服务简介 认证方式 访问方式 WebSocket访问在线服务 Server-Sent Events访问在线服务 父主题: 部署AI应用(在线服务)
-
WebSocket访问在线服务 - AI开发平台ModelArts
WebSocket访问在线服务 背景说明 WebSocket是一种网络传输协议,可在单个TCP连接上进行全双工通信,位于OSI模型的应用层。WebSocket协议在2011年由IETF标准化为RFC 6455,后由RFC 7936补充规范。Web IDL中的WebSocket API由W3C标准化。
-
配置外网访问(NAT) - AI开发平台ModelArts
配置外网访问(NAT) NAT网关(NAT Gateway)提供公网NAT网关和私网NAT网关。公网NAT网关为VPC内的云主机提供SNAT和DNAT功能,可轻松构建VPC的公网出入口。私网NAT网关为VPC内的云主机提供网络地址转换服务,使多个云主机可以共享私网IP访问用户本地