华为云首页用户手册

AI开发平台MODELARTS-ModelArts Standard推理服务访问公网方案:操作事项

AI开发平台MODELARTS-ModelArts Standard推理服务访问公网方案:操作事项

时间：2024-11-12 16:42:18

AI开发平台MODELARTS Standard推理部署

操作事项

ModelArts：设置资源池的网络
用户VPC：安装和配置正向代理
算法镜像：设置DNS代理和公网地址调用

ModelArts：设置资源池的网络

专属资源池的创建作业类型包含推理服务，选择的网络需打通VPC网络，如下图所示：
图2 创建专属资源池

图3 打通VPC

打通VPC可实现ModelArts资源池和用户VPC的网络打通。打通VPC前需要提前创建好VPC和子网，具体步骤请参考创建虚拟私有云和子网。
用户VPC：安装和配置正向代理

在安装正向代理前，需要先购买一台弹性云服务器ECS （镜像可选择Ubuntu最新版本），并配置好弹性EIP，然后登录E CS 进行正向代理Squid的安装和配置，步骤如下：
1. 如果没有安装Docker，执行以下命令进行Docker安装
```
curl -sSL https://get.daocloud.io/docker | sh
```
2. 拉取Squid镜像
```
docker pull ubuntu/squid
```
3. 创建主机目录，配置whitelist.conf和squid.conf
  先创建主机目录：
```
mkdir –p /etc/squid/
```
  添加whitelist.conf配置文件，内容为安全控制可访问的地址，如：
```
.apig.cn-east-3.huaweicloudapis.com
```
  添加squid.conf配置文件，内容如下：
```
# An ACL named 'whitelist'
acl whitelist dstdomain '/etc/squid/whitelist.conf'
 
# Allow whitelisted URLs through
http_access allow whitelist
 
# Block the rest
http_access deny all
 
# Default port
http_port 3128
```
  然后设置主机目录和配置文件权限如下：
```
chmod 640 -R /etc/squid
```
4. 启动squid实例
```
docker run -d --name squid -e TZ=UTC -v /etc/squid:/etc/squid -p 3128:3128 ubuntu/squid:latest
```
5. 如果whitelist.conf或squid.conf有更新，则进入容器刷新squid
```
docker exec –it squid bash
root@{container_id}:/# squid -k reconfigure
```
算法镜像：设置DNS代理和公网地址调用
1. 设置代理
   在代码中设置代理指向代理服务器私有IP和端口，如下所示：
```
proxies = {
  "http": "http://{proxy_server_private_ip}:3128",
  "https": "http://{proxy_server_private_ip}:3128"
}
```
  服务器私有IP获取如下图所示：
  
  图4 ECS私有IP
2. 地址调用
   在推理代码中，使用服务URL进行业务请求，如：
```
https://e8a048ce25136addbbac23ce6132a.apig.cn-east-3.huaweicloudapis.com
```

上一篇：AI开发平台MODELARTS-端到端运维ModelArts Standard推理服务方案:方案概述

下一篇：AI开发平台MODELARTS-示例：从 0 到 1 制作自定义镜像并用于训练（MindSpore+Ascend）:场景描述

华为云11.11 2核1G 2M 云服务器

29元/年

立即注册领万元上云礼券

抽奖赢11111元免单

续费同价 L实例 2核2G 4M

98元/年

热门域名 1元随心购

1元/年

AI开发平台MODELARTS-ModelArts Standard推理服务访问公网方案:操作事项

意见反馈

0/200

提交成功！非常感谢您的反馈，我们会继续努力做到更好反馈提交失败！请稍后重试！

推荐文章

解决方案
相关专题