云服务器内容精选

  • 修改负载均衡与路由配置 登录CAE控制台。 在左侧导航栏中选择“组件配置”。 在“组件配置”页面上方的下拉框中选择需要操作的组件。 单击“访问方式”模块中的“编辑”。 “从环境外部访问本组件”页面,选择“负载均衡与路由配置”。 在负载均衡配置列表中选择待操作配置项,单击操作列“编辑”。 图3 修改负载均衡与路由配置 参考表2、表3 监听器配置和表4更新参数配置。 单击“确定”,完成负载均衡与路由配置修改。 单击“确定”,完成访问方式配置确认。 使配置生效。 如已完成组件部署,单击页面上方“生效配置”。在右侧弹框中确认配置信息,并单击“确定”,使配置生效。 如未完成组件部署,单击页面上方“配置并部署组件”,在右侧弹框中单击“确定”待部署执行完成后,配置生效。
  • 删除负载均衡与路由配置 登录CAE控制台。 在左侧导航栏中选择“组件配置”。 在“组件配置”页面上方的下拉框中选择需要操作的组件。 单击“访问方式”模块中的“编辑”。 “从环境外部访问本组件”页面,选择“负载均衡与路由配置”。 在负载均衡与路由配置列表中选择待操作配置项,单击操作列“删除”。 在弹框中单击“是”,完成负载均衡与路由配置删除。 图4 删除负载均衡与路由配置 单击“确定”,完成访问方式配置确认。 使配置生效。 如已完成组件部署,单击页面上方“生效配置”。在右侧弹框中确认配置信息,并单击“确定”,使配置生效。 如未完成组件部署,单击页面上方“配置并部署组件”,在右侧弹框中单击“确定”待部署执行完成后,配置生效。
  • 配置负载均衡与路由 登录CAE控制台。 在左侧导航栏中选择“组件配置”。 在“组件配置”页面上方的下拉框中选择需要操作的组件。 单击“访问方式”模块中的“编辑”。 在“从环境外部访问本组件”页面,选择“负载均衡与路由配置”,并单击“添加负载均衡与路由配置”。 在“新增负载均衡与路由配置”页面,选择负载均衡器并参考表2配置负载均衡策略。 表1 选择负载均衡器 参数 参数说明 负载均衡器 支持“独享型”和“内置负载均衡器”。 选择“内置负载均衡器”,只支持基于EIP公网访问。 选择“独享型”时,在下拉框中选择对应负载均衡器。 说明: 如需选择“独享型”负载均衡器,请先添加VPC访问CAE环境配置。 只支持选择环境所属VPC下的负载均衡实例。 如果没有可选的负载均衡器,可单击“创建负载均衡器”,跳转至ELB控制台进行创建,具体操作请参考创建独享型负载均衡器。 表2 负载均衡策略配置 参数 参数说明 分配策略 可选择加权轮询算法、加权最少连接或源IP算法。 加权轮询算法:根据后端服务器的权重,按顺序依次将请求分发给不同的服务器。它用相应的权重表示服务器的处理性能,按照权重的高低以及轮询方式将请求分配给各服务器,相同权重的服务器处理相同数目的连接数。常用于短连接服务,例如HTTP等服务。 加权最少连接:最少连接是通过当前活跃的连接数来估计服务器负载情况的一种动态调度算法。加权最少连接就是在最少连接数的基础上,根据服务器的不同处理能力,给每个服务器分配不同的权重,使其能够接受相应权值数的服务请求。常用于长连接服务,例如数据库连接等服务。 源IP算法:将请求的源IP地址进行Hash运算,得到一个具体的数值,同时对后端服务器进行编号,按照运算结果将请求分发到对应编号的服务器上。这可以使得对不同源IP的访问进行负载分发,同时使得同一个客户端IP的请求始终被派发至某特定的服务器。该方式适合负载均衡无cookie功能的TCP协议。 会话保持类型 当“分配策略”选择“加权轮询算法”或“加权最少连接”时可见。 不启动:默认不启动。 应用程序cookie:根据客户端第一个请求生成一个cookie,后续所有包含这个cookie值的请求都会由同一个后端服务器处理。 健康检查 此处健康检查是设置负载均衡的健康检查配置。 不启动:默认不启动。 HTTP:发起一个HTTP调用请求。 TCP:用户指定端口,用于TCP连接。 参考表3和表4进行路由参数配置。 表3 监听器配置 参数 参数说明 *对外协议 支持HTTP、HTTPS协议。 默认值:HTTPS。 *访问端口 HTTPS默认值为443,HTTP默认值为80。 可修改,取值范围[1,65535]。 请确保使用的端口号唯一,避免冲突。 访问控制 “负载均衡器”选择“内置负载均衡器”时可配置。 主要用来控制访问组件的IP地址,您可以创建访问控制策略,允许/禁止某个IP地址对组件进行访问。支持IP和IP网段。 允许所有IP访问。 白名单。 只允许白名单中放通的IP访问组件。 黑名单。 禁止黑名单中的IP访问组件。 说明: 访问方式配置中,同一负载均衡器的同一访问端口,访问控制只能有一种配置,因此需要注意如下事项: “负载均衡器”选择“内置负载均衡器”时,如果同一个端口配置了多条路由规则,请保持这些路由规则访问控制配置一致。 “负载均衡器”选择“独享型”时,不支持在CAE界面配置访问控制。访问方式每配置一个端口,会在所选择的负载均衡器上创建一个监听器,您可以参考访问控制策略在端口对应的的监听器配置访问控制。 安全策略 配置后不可修改。 安全策略 TLS-1-2:支持TLS1.2版本与相关加密套件, 兼容性较好,安全性很高。 安全策略 TLS-1-0:支持TLS1.0、TLS1.1及TLS1.2版本与相关加密套件,兼容性最好,安全性一般。 安全策略 TLS-1-1:支持TLS1.1及TLS1.2版本与相关加密套件,兼容性较好,安全性较好。 安全策略 TLS-1-2-STRICT:支持TLS1.2版本与相关加密套件,兼容性一般,安全性极高。 说明: 在选择安全策略时,一个环境中的安全策略需要保持一致。 *服务器默认证书 通过下拉表选择已经添加的证书。 “对外协议”选择HTTPS时显示。 如需新增新证书,可在下拉框中“单击添加新证书”进行添加,具体操作请参考添加证书。 域名 证书对 在下拉框中选择域名和对应证书。 “对外协议”选择HTTPS时显示。 说明: 当绑定 多个域名 且需要配置对应证书时,进行“域名证书对”配置。 如果不配置 “域名证书对”,则所有域名使用“服务器默认证书”解析。 表4 转发策略配置 参数 参数说明 域名 通过下拉表选择已经添加的域名。 说明: 可在下拉框中单击“添加新域名”进行域名添加,具体步骤请参考添加域名。 URL匹配规则 支持前缀匹配、正则匹配和精准匹配。 前缀匹配:例如映射URL为/healthz,只要符合此前缀的URL均可访问。例如:/healthz/v1,/healthz/v2。 正则匹配:可设定映射URL规范,例如:规范为/[A-Za-z0-9_.-]+/test。只要符合此规则的URL均可访问,例如:/abcA9/test,/v1-Ab/test。正则匹配规则支持POSIX与Perl两种标准。 精准匹配:表示精准匹配,只有完全匹配上才能生效。例如:映射URL为/healthz,则必须为此URL才能访问。 URL 以/开头,由英文字母、数字或特殊字符_~';@^-%#&$.*+?,=!:|/()[]{}组成。例如:/healthz。 监听端口 取值范围[1,65535]。 图1 负载均衡与路由配置 访问地址由域名和访问端口组成,例如:域名为test-test-16.com,访问端口为13456,则访问地址为http://test-test-16.com:13456/。 单击“确定”,完成负载均衡与路由配置添加。 (可选)如需添加多条负载均衡与路由配置,请重复5~8。 单击“确定”,完成访问方式配置。 使配置生效。 如已完成组件部署,单击页面上方“生效配置”。在右侧弹框中确认配置信息,并单击“确定”,使配置生效。 如未完成组件部署,单击页面上方“配置并部署组件”,在右侧弹框中单击“确定”待部署执行完成后,配置生效。 在左侧导航栏中选择“组件列表”,进入“组件列表”页面,单击对应组件“访问地址”列的ip地址,如:http://test-test-16.com:13456/,即可成功访问组件静态WEB页面。如果您配置了访问控制白名单或黑名单,则只有在白名单内或在黑名单外的ip能够访问组件。 图2 成功访问静态WEB页面
  • 背景说明 访问在线服务的实际业务中,用户可能会存在如下需求: 高吞吐量、低时延 TCP或者RPC请求 因此,ModelArts提供了VPC直连的高速访问通道功能以满足用户的需求。 使用VPC直连的高速访问通道,用户的业务请求不需要经过推理平台,而是直接经VPC对等连接发送到实例处理,访问速度更快。 由于请求不经过推理平台,所以会丢失以下功能: 认证鉴权 流量按配置分发 负载均衡 告警、监控和统计 图1 VPC直连的高速访问通道示意图
  • 准备工作 使用专属资源池部署在线服务,服务状态为“运行中”。 需使用新版专属资源池部署服务,详情请参见ModelArts Standard资源池功能介绍。 只有专属资源池部署的服务才支持VPC直连的高速访问通道。 VPC直连的高速访问通道,目前只支持访问在线服务。 因流量限控,获取在线服务的IP和端口号次数有限制,每个主账号租户调用次数不超过2000次/分钟,每个子账号租户不超过20次/分钟。 目前仅支持 自定义镜像 导入模型,部署的服务支持高速访问通道。
  • 添加负载均衡配置 登录CAE控制台。 在左侧导航栏中选择“组件配置”。 在“组件配置”页面上方的下拉框中选择需要操作的组件。 单击“访问方式”模块中的“编辑”。 “从环境外部访问本组件”页面,选择“负载均衡配置”,并单击“添加负载均衡配置”。 在“新增负载均衡配置”页面,参考表1进行参数配置。 表1 负载均衡外网访问配置 参数 参数说明 负载均衡器 支持“独享型”和“内置负载均衡器”。 选择“内置负载均衡器”,只支持基于EIP公网访问。 选择“独享型”时,在下拉框中选择对应负载均衡器。 说明: 如需选择“独享型”负载均衡器,请先添加VPC访问CAE环境配置。 只支持选择环境所属VPC下的负载均衡实例。 可通过将负载均衡器配置弹性公网IP实现外网访问CAE组件。 如果没有可选的负载均衡器,可单击“创建负载均衡器”,跳转至ELB控制台进行创建,具体操作请参考创建独享型负载均衡器。 健康检查 此处健康检查是设置负载均衡的健康检查配置。 不启动:关闭负载均衡健康检查。 启动:启动负载均衡健康检查。默认为“启动”。 协议 健康检查请求的协议类型。 支持TCP和HTTP协议。默认值为TCP。 说明: 不支持直接切换协议,如需切换,请更新为不启用后再选择其他协议。 检查路径 当健康检查的“协议”选择“HTTP”时,需要配置。 指定健康检查的URL地址。检查路径必须以/开头,长度范围为1-80个字符。 支持使用英文字母、数字和字符‘-’、‘/’、‘.’、‘%’、‘?’、‘&’、‘_’。 检查周期(秒) 发送健康检查请求的时间间隔。 取值范围[1-50]。默认值5秒。 超时时间(秒) 每次健康检查响应的最大超时时间。 取值范围[1-50]。默认值10秒。 最大重试次数 健康检查最大的重试次数。 取值范围[1-10]。默认值3次。 访问控制 主要用来控制访问组件的IP地址,您可以创建访问控制策略,允许/禁止某个IP地址对组件进行访问。支持IP和IP网段。 允许所有IP访问。 白名单。 只允许白名单中放通的IP访问组件。 黑名单。 禁止黑名单中的IP访问组件。 端口配置 协议:支持TCP、UDP协议。 监听端口:组件中程序的监听端口,一般从用户的程序代码中获取。 取值范围[1,65535]。 访问端口:组件提供给外部访问的端口,一般由用户自行设定,端口号唯一,避免冲突。 取值范围[1,65535]。 图1 配置负载均衡参数 图2 配置健康检查 单击“确定”,完成负载均衡配置添加。 (可选)如需添加多条负载均衡配置,请重复执行5~7。 单击“确定”,完成负载均衡配置。 使配置生效。 如已完成组件部署,单击页面上方“生效配置”。在右侧弹框中确认配置信息,并单击“确定”,使配置生效。 如未完成组件部署,单击页面上方“配置并部署组件”,在右侧弹框中单击“确定”待部署执行完成后,配置生效。 以Nginx组件为例,协议选择TCP,监听端口为80,访问端口为8089,则部署成功后。在左侧导航栏中选择“组件列表”,进入“组件列表”页面,单击Nginx组件“访问地址”列的公网访问地址,可查看Nginx静态WEB页面。 如果您配置了访问控制白名单或黑名单,则只有在白名单内或在黑名单外的ip能够访问组件。 图3 外网访问 也可以通过域名访问,例如:http://test-test-7.com:8089。前提是已在系统设置中添加域名,并成功绑定,具体操作可参考常见问题:自定义域名如何绑定CAE。 图4 域名配置 图5 通过域名访问 图6 不在白名单内的ip访问
  • 修改负载均衡配置 登录CAE控制台。 在左侧导航栏中选择“组件配置”。 在“组件配置”页面上方的下拉框中选择需要操作的组件。 单击“访问方式”模块中的“编辑”。 “从环境外部访问本组件”页面,选择“负载均衡配置”。 在负载均衡配置列表中选择待操作配置项,单击操作列“编辑”。 图7 修改负载均衡配置 参考表1更新参数配置。 单击“确定”,完成负载均衡配置修改。 单击“确定”,完成访问方式配置确认。 使配置生效。 如已完成组件部署,单击页面上方“生效配置”。在右侧弹框中确认配置信息,并单击“确定”,使配置生效。 如未完成组件部署,单击页面上方“配置并部署组件”,在右侧弹框中单击“确定”待部署执行完成后,配置生效。
  • 删除负载均衡配置 登录CAE控制台。 在左侧导航栏中选择“组件配置”。 在“组件配置”页面上方的下拉框中选择需要操作的组件。 单击“访问方式”模块中的“编辑”。 “从环境外部访问本组件”页面,选择“负载均衡配置”。 在负载均衡配置列表中选择待操作配置项,单击操作列“删除”。 在弹框中单击“是”,完成负载均衡配置删除。 图8 删除负载均衡配置 单击“确定”,完成访问方式配置确认。 使配置生效。 如已完成组件部署,单击页面上方“生效配置”。在右侧弹框中确认配置信息,并单击“确定”,使配置生效。 如未完成组件部署,单击页面上方“配置并部署组件”,在右侧弹框中单击“确定”待部署执行完成后,配置生效。