华为云用户手册

  • 操作须知 无论单节点删除或是批量删除,管理节点是禁止删除操作的。 节点删除(即集群缩容)时,仅在集群状态处于“运行中”或“异常”时方可操作。 节点删除(即集群缩容)时,需要保证集群中其他节点的状态均为“运行中”方可操作。 节点删除(即集群缩容)时,用户需要自行确认所选节点无作业执行,否则会导致正在运行的作业异常。 节点删除时,如果所选节点挂载了数据盘,节点删除时不会删除数据盘,需要用户手动删除清理,否则会继续扣费。
  • 操作步骤 登录HPC-S²控制台。 单击左侧的“集群管理”。 在“集群管理”页面,对于不需要或异常的集群可进行删除操作。 按需类型集群 确定页可选择是否删除云服务器,如勾选,连同云服务器一同删除,如不勾选,则只删除集群信息,对应的云服务器节点仍保留,用户可通过弹性云服务器页面查看。 包周期类型集群 不能选择删除节点,包周期节点资源需手动退订。 混合类型集群删除 可选择删除节点,同时会有提示包周期节点需要手动退订,勾选“删除节点”时,只有按需类型节点资源会被删除。
  • 操作场景 当集群不再使用后,可使用集群删除的功能将集群删除,如未勾选“删除云服务器”,节点资源将持续扣费,包周期资源需手动退订。 集群创建失败后,可使用集群删除的功能将集群删除,删除时不要勾选“删除云服务器”,然后再使用“已有节点部署集群”的功能重新部署集群。 集群出现异常后,如无法手动进行恢复,可使用集群删除的功能将集群删除,删除时不要勾选“删除云服务器”,然后再使用“已有节点部署集群”的功能重新部署集群。
  • 操作步骤 登录HPC-S²控制台。 单击左侧的“集群管理”。 在“集群管理”页面选择要扩容的集群,单击后方操作中“扩容”,进入扩容的详情页面。 选择“计费模式”。 集群扩容时,可选择和原有计费模式不同的计费模式,如果集群当中既有“按需计费”也有“包年/包月”类型,此时集群的付费类型显示为“混合计费”。 包年/包月:用户选购完 云服务器配置 后,可以根据需要设置购买时长,系统会一次性按照购买价格对账户余额进行扣费。 按需付费:用户选购完云服务器配置后,无需设置购买时长,系统会根据消费时长对账户余额进行扣费。 选择“当前区域”和“可用区”。 集群扩容时,当前区域不可选,默认为集群初始创建时所在区域。 集群扩容时,可选择不同于原有集群的可用区。 新增节点的规格配置。 规格:公有云提供了多种类型的弹性云服务器供您选择,单击下拉框进行选择; 系统盘:根据所需要的选择磁盘类型和大小; 网络配置。 集群扩容时,网络配置包括“虚拟私有云”、“安全组”以及“网卡”不可选,和集群初始创建时保持一致。 选择“镜像”。 推荐使用公共镜像,其他类型镜像可能出现扩容时自动部署失败的情况。 公共镜像(推荐) 标准操作系统镜像,所有用户可见,当前仅支持CentOS 7系列,包括操作系统以及预装的公共应用。请根据您的实际情况自助选择。 私有镜像 用户基于弹性云服务器创建的个人镜像,仅用户自己可见。包含操作系统、预装的公共应用以及用户的私有应用。选择私有镜像创建弹性云服务器,可以节省您重复配置弹性云服务器的时间。 您可以选择使用加密镜像,更多关于加密镜像的信息,请参见《 镜像服务 用户指南》。 共享镜像 您将接受其他用户共享的私有镜像,作为自己的镜像进行使用。 市场镜像 提供预装操作系统、应用环境和各类软件的优质第三方镜像。 选择“登录方式”。 登录方式会和集群初始创建时保持一致,若集群创建时选择了密码方式,扩容就只支持密码方式,若集群创建时选择了密钥方式,扩容则只支持密钥方式。 密钥对 指使用密钥对作为弹性云服务器的鉴权方式。您可以选择使用已有的密钥,或者单击“查看密钥对”创建新的密钥。 如果选择使用已有的密钥,请确保您已在本地获取该文件,否则,将影响您正常登录弹性云服务器。 密码 指使用设置初始密码方式作为弹性云服务器的鉴权方式,此时,您可以通过用户名密码方式登录弹性云服务器。 密码规则请参考下表: 参数 规则 样例 密码 密码长度范围为8到26位。 密码至少包含以下4种字符中的3种: 大写字母 小写字母 数字 特殊字符,包括:“$”、“!”、“@”、“%”、“-”、“_”、“=”、“+”、“[”、“]”、“:”、“.”、“/”、“^”、“,”、“{”、“}”和“?” 密码不能包含用户名或用户名的逆序。 YNbUwp!dUc9MClnv 说明: 样例密码随机生成,请勿复制使用样例。 选择“购买时长”。 计费模式为“包年/包月”类型,需同时选择购买时长,同时用户可选择是否需要“自动续费”,如勾选了“自动续费”,包周期到期后会自动续费。 选择“节点数量”。 集群原有的计算节点和新扩容的计算节点总计不超过50个。 核对当前配置,确认无误后单击右侧的“立即购买”,进入订单确认页面。 计费模式为“包年/包月”时,如果您确认规格和价格无误,请勾选同意协议,单击“去支付”,并根据界面提示完成支付。 计费模式为“按需付费”时,如果您确认规格和价格无误,请勾选同意协议,单击“提交”。 提交/支付成功后,返回到集群管理页面,可查看到集群列表中该集群已经是“创建中”了,等待集群创建完成变成“运行中”即可。
  • 操作步骤 登录HPC-S²控制台。 单击管理控制台左上角的,选择区域和项目。 单击“部署HPC集群”。 系统进入部署HPC集群页面。 选择“区域”。 不同区域的云服务产品之间内网互不相通。请就近选择靠近您业务的区域,可减少网络时延,提高访问速度。 设置集群名称。 名称可自定义,但需符合命名规则。集群名称命名规则如表1所示。 表1 集群名称命名规则 参数 规则 样例 集群名称 集群名称长度范围为1到52位。 只能由英文字母、数字、“-”以及“.”组成 名称不能以“-”、“.”开头和结尾 不能包含连续的“-”和“.”,例如“--”、“..”、“-.”和“.-” hpc-001.p1 选择“管理节点” 管理节点的筛选需要满足以下条件: 当前指定区域的E CS 节点; 该节点状态为“运行中”。 该节点绑定了弹性IP。 该节点不在当前账号下的其他集群中。 选择“安全组” 安全组为选定的管理节点所使用的安全组策略,如果有多个策略,可根据需要选择。 选择“计算节点” 计算节点的筛选需要满足以下条件: 当前指定区域的ECS节点。 计算节点状态为“运行中”。 计算节点与管理节点为相同的CPU架构。 计算节点与所选管理节点有相同的VPC、安全组。 计算节点与管理节点使用的是同一镜像主版本。 所选的计算节点数不超过50个。 选择“虚拟私有云” 虚拟私有云为选定的管理节点所在的VPC,无需选择。 设置“登录方式”。 已有节点部署集群,当前只支持密码方式,如果您使用“密钥”方式创建的云服务器,请手动设置登录密码,另外,使用密码方式时请增强密码的复杂度,保证密码符合要求,防止恶意攻击。 Linux操作系统时为root用户的初始密码,Windows操作系统时为Administrator用户的初始密码。密码复杂度需满足表2要求。 表2 密码规则 参数 规则 样例 密码 密码长度范围为8到26位。 密码至少包含以下4种字符中的3种: 大写字母 小写字母 数字 特殊字符,包括“$”、“!”、“@”、“%”、“-”、“_”、“=”、“+”、“[”、“]”、“:”、“.”、“/”、“^”、“,”、“{”、“}”和“?” 密码不能包含用户名或用户名的逆序。 Windows系统的弹性云服务器,不能包含用户名中超过两个连续字符的部分。 YNbUwp!dUc9MClnv 说明: 样例密码随机生成,请勿复制使用样例。 选择 “弹性文件服务”。 弹性文件服务自动根据“网络配置”当中所选VPC筛选,如不存在弹性文件系统,需手动创建,并添加对应VPC的权限。具体请参考“创建文件系统” 选择“调度器”。 当前只支持slurm和sge两种调度器,系统默认调度器为slurm,请根据所需自行选择。 核对当前配置,确认无误后单击“部署HPC集群”,提交创建。 提交成功后,返回到集群管理页面,可查看到集群列表中该集群已经是“部署中”了,等待集群创建完成变成“运行中”代表集群部署完成。
  • 购买须知 第一次使用公有云服务时,系统将自动为您创建一个虚拟私有云,包括安全组、网卡。同时,用户可根据需要自行创建一个虚拟私有云,更多关于虚拟私有云的信息,请参见《虚拟私有云用户指南》。 用户可使用系统自动创建的安全组,也可以根据需要自行创建一个安全组使用,安全组规则的配置会影响弹性云服务器的正常访问与使用。 为确保集群能正常创建/部署,需保证安全组规则22端口开放,具体配置方法请参见:为安全组添加安全组规则。 一站式HPC服务使用弹性文件服务SFS作为文件共享存储,更多关于弹性文件系统的信息,请参见《弹性文件服务用户指南》。
  • 购买须知 第一次使用公有云服务时,系统将自动为您创建一个虚拟私有云,包括安全组、网卡。同时,用户可根据需要自行创建一个虚拟私有云,更多关于虚拟私有云的信息,请参考《虚拟私有云用户指南》。 用户可使用系统自动创建的安全组,也可以根据需要自行创建一个安全组使用,安全组规则的配置会影响弹性云服务器的正常访问与使用。 为确保集群能正常创建/部署,需保证安全组规则22端口开放。具体配置方法请参见:为安全组添加安全组规则 一站式HPC服务使用弹性文件服务SFS作为文件共享存储,更多关于弹性文件系统的信息,请参见《弹性文件服务用户指南》。
  • HPC-S²与其他服务的关系 服务名称 HPC-S²与其他服务的关系 主要交互功能 弹性云服务器(ECS) 购买弹性云服务器创建HPC集群或使用已有弹性云服务器部署HPC集群。 创建弹性云服务器 虚拟私有云(VPC) 同一个HPC场景的云服务器,都位于同一个VPC中,并且需要使用VPC中的子网和安全组进行相关的网络安全隔离。 创建虚拟私有云和子网 修改虚拟私有云基本信息 镜像服务(IMS) 可以使用公共镜像、私有镜像、共享镜像创建高性能计算的云服务器。 也可以将已有的HPC场景的云服务器创建私有镜像。 创建私有镜像 云硬盘(EVS) 购买云硬盘并挂载至HPC场景的云服务器。 购买云硬盘 弹性文件服务(SFS) 为用户的弹性云服务器提供一个完全托管的共享文件存储。 文件共享 父主题: 产品介绍
  • HPC-S²使用限制 HPC解决方案服务当前只支持“华北-北京一”、“华北-北京四”、“华南-广州”区域,推荐使用“华北-北京四”,其他区域暂不支持。 集群部署仅支持slurm和sge两种调度器。 集群部署支持鲲鹏架构的sge调度器,支持X86架构的slurm和sge调度器。 单个用户可创建集群的上限为3个。 单个集群中的计算节点的上限为2000个。 集群创建/扩容时,节点不能添加数据盘,如需使用,用户需手动挂载。 当前不支持集群恢复操作,创建失败或扩容失败的节点无法自动恢复。 集群创建/扩容时,公共镜像当前只支持CentOS 7系列。 集群/节点执行删除操作时,请自行判断是否删除节点所绑定的弹性公网IP和挂载的数据盘。未删除的弹性公网IP和数据盘会持续产生扣费。 请不要在ECS控制台对HPC集群中的节点进行操作,以免集群出现异常。 请勿修改或删除“/usr/local/.hpccluster”路径下文件内容,以免造成集群异常。 “/usr/local/.hpccluster/role/.ssh/”下的“authorized_keys”仅用于系统维护。 同一主账号下的不同子账号创建的集群不能重名。
  • HPC-S²功能简介 HPC-S²主要面向对大规模计算有需求的企事业单位,使用HPC-S²控制台可以方便的对集群、节点、任务以及共享存储进行查看及管理操作,实现集群的一键式开通和部署等功能。 功能 说明 集群管理 HPC-S²的管理控制台提供了HPC-S²集群相关的集群创建、集群进度(包括创建/部署/扩容/缩容等操作)查看、集群详情查看、对集群进行管理(包括扩容、启动、停止、删除等操作)、实例topo管理的功能。 节点管理 HPC-S²的管理控制台提供了HPC-S²集群的节点进行查询、启动、停止、重启、删除等管理功能。 共享存储 HPC-S²的管理控制台提供了HPC-S²集群所对应的存储信息,通过弹性文件服务(SFS)为集群中所有节点提供文件共享路径。 任务管理 HPC-S²的管理控制台提供了HPC-S²集群相关的任务队列、动态调度、亲和性调度、负载重组及基于CPU、内存、实例Instance的quota管理的功能。
  • HPC-S²产品优势 HPC-S²与传统HPC相比具备以下优势: HPC-S²支持按需购买,无需排期,即买即用。 HPC-S²支持多种云服务器类型,可根据应用需求购买最适合的计算资源。 HPC-S²可以使用Anti-DDos流量清洗、 Web应用防火墙 漏洞扫描 等多种安全服务提供多维度防护,提高数据安全性和高可用性。 使用HPC-S²服务,用户无需自建机房,无需顾虑硬件升级换代,可随时从虚拟资源池中获取并独享资源,并根据业务变化弹性扩展或收缩。 使用HPC-S²能够为用户自动化配置集群免密、网络信息服务(Network Information Service,NIS)以及集群调度器。
  • HPC解决方案服务 高性能计算(High-performance computing,简称HPC)是一个计算机集群系统,通过管理节点对计算任务进行分解,交给不同的计算节点进行计算,以此来解决大型计算问题。在科学研究、气象预报、仿真实验、生物制药、基因测序、图像处理等行业均有广泛的应用。 针对日益增长的HPC计算能力需求,华为云在现有基础设施之上推出了HPC解决方案服务(HPC Solution Service,简称HPC-S²),主要面向对大规模计算有需求的企事业单位,为用户提供一站式可扩展的高性能计算,同时集成基础服务、业务软件等,实现一键式开通部署等功能,支持常用作业调度软件,例如slurm、sge及华为多瑙(Huawei commercial HPC Donau Scheduler)调度器的自动化部署,使用HPC-S²控制台可以方便的对集群、节点以及共享存储进行查看以及管理操作。 如图1所示,通过HPC-S²控制台用户可以管理多个VPC网络下的多个集群。
  • 数据存储 存储安全 为了实现数据的存储安全性,建议您将操作系统和应用数据分别存储在系统盘和数据盘,一方面保证数据的安全,避免因系统故障导致用户数据丢失;另一方面可根据业务需要扩容或新增磁盘扩展存储容量。 扩容磁盘:支持扩容系统盘和数据盘,建议您参考扩容“正在使用”状态的云硬盘容量扩容磁盘容量。 新增磁盘:支持新增数据盘,建议您新增磁盘,并完成挂载磁盘和初始化数据盘后,才可以正常使用。 数据加密 为了进一步保护数据的安全性,建议您使用加密的系统盘和数据盘。详细内容,请参见管理加密云硬盘。
  • 操作维护管理 监控管理 为了使用户能够及时获取弹性云服务器的各项性能指标及运行状态,建议您使用 云监控服务 ,执行自动实时监控、告警和通知操作。 详细内容,请参见 云监控 服务。 关键操作管理 为了能够对弹性云服务器的操作进行查询、审计和回溯,建议您开启 云审计 服务记录与之相关的操作事件。 更多内容,请参见云审计服务。 日志管理 为了提高弹性云服务器和应用程序的可用性和性能,建议您通过 云日志 服务收集日志数据,通过对海量日志数据的分析和处理,实现实时决策分析、设备运维管理、用户业务趋势分析等能力。 详细内容,请参见云日志服务。
  • 访问与连接 为了确保弹性云服务器创建成功且状态正常,建议您第一次通过VNC方式远程登录弹性云服务器,若登录成功则表明弹性云服务器资源状态正常。 详细操作,请参见: Windows弹性云服务器管理控制台远程登录(VNC方式) Linux弹性 云服务器远程登录 (VNC方式) 之后,您就可以根据本地环境以及弹性云服务器是否绑定弹性公网IP,选择合适的登录方式,详细内容请参见登录弹性云服务器。 如果您在登录过程中遇到问题,推荐您使用ECS远程登录诊断工具进行问题的自助排查和定位。
  • 系统更新 更新镜像源(Linux) 为了及时获取最新的系统更新和软件安装依赖,建议您在使用弹性云服务器之前更新镜像源。 华为云内网源无需连接Internet、且服务稳定,对于使用EulerOS、CentOS、Debian、Ubuntu操作系统的弹性云服务器,建议您更新为华为云内网源,详细操作,请参见如何使用自动化工具配置华为云镜像源(x86_64和ARM)? 更新Windows补丁和驱动(Windows) 为了提高弹性云服务器的问题修复能力和性能,建议您定时更新Windows的补丁和驱动程序。 您可以通过设置Windows自动更新,及时发现最新的补丁和驱动版本,提醒您进行更新。
  • 备份与恢复 数据备份与恢复 为了在发生病毒入侵、人为误删除、软硬件故障等事件时,能够快速恢复数据,建议您定期进行数据备份,备份的具体方案和适用场景,请参见云备份概述。 备份成功后,可以使用云服务器备份恢复数据或使用备份创建镜像的方式恢复数据。 高可用容灾业务部署 为了实现较高的业务容灾能力,建议您将云服务器资源部署在同一区域的不同可用区内。可用区的具体内容,请参见区域和可用区和步骤一:基础配置。 主备应用HA业务部署 为了实现弹性云服务器的主备切换、达到高可用HA的目的,建议您参考搭建Keepalived Nginx高可用Web集群方案进行部署。
  • 安全管理 身份认证 为了实现对资源的安全访问和权限控制,建议您创建 IAM 用户,并结合企业项目实现对资源的身份认证、权限管理和资源分组管理,详细内容请参见多运维人员权限设置案例和多项目管理实践案例。 登录鉴权方式 为了保证在丢失密码或密码失效的情况下,可以成功重置密码,建议您在弹性云服务器的购买完成后,优先执行安装一键式重置密码插件(可选)或更新一键式重置密码插件(单台操作)操作。 访问控制 为了实现对弹性云服务器入方向和出方向的访问进行控制,提高安全性,建议您根据控制的范围设置相应的访问控制策略: 基于ECS实例:建议您使用安全组功能,通过安全组规则实现对ECS的访问控制。详细内容,请参见安全组配置示例。 基于ECS所在子网:建议您使用网络ACL功能,通过网络ACL规则实现对子网内所有ECS实例的访问控制。详细内容,请参见网络ACL配置示例。 安全防护 为了实现对弹性云服务器的高阶安全防护,除了免费开启的主机安全基础防护外,建议您根据防护需求购买高阶的主机安全防护版本,详细的版本功能、版本差异及购买方式,请参见版本功能差异和主机安全快速入门。 网络防护 为了防止弹性云服务器绑定的弹性公网IP被攻击,建议您购买华为云的DDoS防护服务。 敏感操作保护 为了保证账号及操作的安全性,建议您开启敏感操作保护功能,在控制台执行关机、重启、删除等敏感操作时,进行身份验证。该功能对账号以及账号下的用户都生效。 详细内容,请参见敏感操作保护。
  • 背景 弹性云服务器的磁盘增强型、超高I/O型以及鲲鹏超高I/O型实例自带高存储带宽和IOPS的本地盘,适用于处理海量数据、需要高I/O能力,要求快速数据交换和处理的场景。 本地盘部署在弹性云服务器实例所在宿主机上,提供本地存储访问能力,具有高存储IOPS、低时延、高吞吐量和高性价比等优势。同时,由于本地盘只挂载于单台宿主机,因此其数据可靠性依赖宿主机的可靠性。如果出现宿主机异常、本地盘故障或实例重部署等情况,则本地盘数据会丢失。因此,请勿在本地盘上存储需要长期保存的业务数据。对于数据可靠性要求比较高的场景,建议您选择支持三副本技术的云硬盘。
  • 安装VNC Server 默认情况下,Ubuntu 20.04操作系统没有安装图形环境或VNC Server。本示例中,桌面环境使用Xfce,它是一个精简的轻量化桌面,与Gnome和KDE相比更小巧,并且界面美观、对用户友好,适合云服务器远程连接场景下使用。 远程登录云服务器。 账号:root;密码:您在创建云服务器时设置的密码。 执行以下命令,更新软件列表。 sudo apt update 安装Xfce桌面环境。 sudo apt install xfce4 xfce4-goodies 执行完成后,安装TightVNC服务器。 sudo apt install tightvncserver 执行完成后,使用vncserver命令进行配置。 当您第一次运行vncserver时,它会创建一个默认启动脚本。按照提示进行配置: 密码:长度为6~8个字符。超过8个字符的密码将自动截断。请牢记该密码,VNC Viewer连接云服务器时会使用。 验证密码:再次输入密码。 是否创建仅查看密码:使用仅查看密码登录的用户将无法使用鼠标或键盘控制云服务器。此处输入“n”。
  • 配置VNC Server 首先停止第一个虚拟桌面。 vncserver -kill :1 修改xstartup文件。 vim ~/.vnc/xstartup 按“i”进入编辑模式,添加以下内容: #!/bin/sh xrdb $HOME/.Xresources startxfce4 & 其中, 第一个命令“xrdb $HOME/.Xresources”告诉VNC的GUI框架读取服务器用户的“.Xresources”文件。用户可以在“.Xresources”中更改图形桌面的某项设置,如终端颜色、光标主题和字体渲染。 第二个命令“startxfce4 &”告诉服务器启动Xfce。 为了保证VNC服务正常启动,需要配置可执行。 sudo chmod +x ~/.vnc/xstartup 重启VNC Server。 vncserver 第二次运行vncserver时,它将创建日志文件。 回显信息中出现类似这样的一条信息:Log file is /root/.vnc/xxx:1.log。其中,“1”表示当前用户分配的是VNC的第一个虚拟桌面。
  • 建站常见问题 使用弹性云服务器搭建网站过程中,由于各种原因可能会遇到一些问题,常见问题及处理方法如下: 服务器登录问题 云服务器登录前的准备工作有哪些? 无法登录到Windows云服务器怎么办? 无法登录到Linux云服务器怎么办? 更多登录类问题请参见弹性云服务器登录类常见问题。 安全组问题 变更安全组规则和网络ACL规则时,是否对原有流量实时生效? 弹性云服务器加入安全组过后能否变更安全组? 更多安全组问题请参见安全组常见问题。 网络类问题 弹性云服务器IP获取不到时,如何排查? EIP连接出现问题时,如何排查? 弹性云服务器的网卡绑定虚拟IP地址后,该虚拟IP地址无法ping通时,如何排查? 更多网络类问题请参见VPC常见问题。 操作系统问题 Windows云服务器带宽和CPU利用率高问题排查方法 Linux云服务器带宽和CPU占用率高问题排查方法 更多操作系统问题请参见操作系统类常见问题。 DNS常见问题 怎么测试 域名 解析是否生效 解析不生效有哪些原因 更多DNS问题请参见DNS常见问题。 其它常见问题 无法访问ECS实例上运行的网站 云服务器端口不通怎样排查?
  • 建站方式 华为云当前支持 自助建站 ,通过企业门户服务建站,使用云市场的模板建站和通过云市场进行网站定制四种方式,详细信息如表1所示。本页面重点介绍自助建站,通过企业门户服务建站请参考企业门户服务的帮助文档,其它建站方式请参考云市场服务提供商提供的使用指南。 表1 建站方式 建站方式 特点 适用场景 自助建站 部署时间长,过程复杂,需要自行购买服务器、搭建并维护网站,可以满足个性化的部署需求。 适用于有一定动手能力,有意愿自行设计和搭建个人或者小企业网站的用户;或者刚接触公有云,对建站不太了解,借助搭建个人或者小企业网站学习和了解公有云的用户。 企业门户 企业门户服务是一款帮助您搭建网站的华为云服务。提供多终端独立版和多终端自适应版两种建站规格,上千套免费模板任您挑选。无需代码,自由拖拽,快速生成中小企业网站及网店、微信网店等。 多终端独立版站点提供PC、手机、微信公众号、小程序、APP五站合一的模板建站产品,适用于贸易类企业的B2C交易类型网站和跨境官网电商等网站建设。多终端自适应版站点提供PC、手机、Pad三站合一的模板建站产品,适用于企业官网、个人博客、政府门户网站等网站的建设。 云市场模板建站 云市场中的模板是华为云合作伙伴提供的专业建站模板,可以通过云市场购买合适的模板,部署时间短,过程简单,后台管理方便,且有专人提供网站维护支持。 适用于需求简单,云市场模板可以满足需求的个人或者中小企业用户。有PC、手机、微信等多种渠道可选择,部署使用简单,成本较低。 云市场网站定制 华为云市场是一个云上的软件和服务商城,可以通过云市场获取 网站定制服务 ,专人服务,定制化开发,后台管理方便,且有专人提供网站维护支持。 适用于对网站有个性化需求,且预算充足的企业用户。提供一对一专业定制化开发,省心省力,同时节省企业自有人力。 Solution as Code一键式部署 为帮助企业高效上云,华为云Solution as Code萃取丰富上云成功实践,提供一系列基于华为云可快速部署的解决方案,帮助用户降低上云门槛。同时开放完整源码,支持个性化配置,解决方案开箱即用,所见即所得。 适用于跨境电商、运维监控、云上建站、开源自建、企业上云等场景。部署使用简单、成本较低。
  • 自助建站步骤 在华为云搭建一个网站,并实现在Internet上通过域名访问该网站,您需要完成以下几步: 准备服务器 准备服务器时,需要考虑服务器的CPU、内存、硬盘以及网络带宽等的配置。通常情况下,首先要满足运行网站相关软件的最低资源要求,其次需要结合网站的类型、规模以及访问量等相关因素进行相应的资源规划。 弹性云服务器的计费方式分为按需、包年/包月(按月、按年)、竞价3种,您可以根据业务的特点选择最合适的计费方式,详细的计费规则请参见计费模式概述。您也可以通过价格计算器了解不同规格配置的实例对应的价格。 如果已经有合适规格的实例,可以使用已有的实例直接部署网站。如果没有合适规格的实例,请先购买实例,详细操作请参见购买指引。 部署网站 根据需要部署的网站类型,可以选择镜像部署或者手工搭建,具体部署方法请参见搭建网站汇总。 购买域名 为了便于网站的访问和使用,可以给网站设置一个单独的域名,使用域名访问网站。如果已有可用的域名,可以直接认证使用,如果没有域名,需要先购买域名,具体操作请参见域名注册流程。 备案网站和域名 备案是中国大陆的一项法规,使用大陆节点服务器提供服务的网站,必须先办理备案,备案成功并获取通信管理局下发的ICP备案号后才能开通访问。 华为云提供免费的备案服务,具体操作请参见快速完成网站备案。 更多关于华为云备案的内容,请参考网站备案。 配置域名解析。 配置域名解析后才能使用注册的域名访问网站。具体操作请参见配置域名解析。 例如,配置的域名为“www.example.com”,配置成功后,可在浏览器地址栏中输入“http://www.example.com”访问部署的网站。
  • 主机迁移服务(推荐) 服务简介 主机迁移服务(Server Migration Service)是一种P2V/V2V迁移服务,可以帮您把X86物理服务器,或者私有云、公有云平台上的虚拟机迁移到华为云弹性云服务器上,从而帮助您轻松地把服务器上的应用和数据迁移到华为云。 主机迁移服务支持迁移的源端服务器OS类型请参见兼容性列表。 使用主机迁移服务时,对于源端服务器的约束与限制请参见约束与限制。 图1 主机迁移服务工作原理 主机迁移服务的工作原理如下,其中第1步和第3步需要用户操作,其余步骤由主机迁移服务自动完成。 用户在源端服务器上安装迁移Agent,具体操作方法请您参见安装Agent。 源端服务器上的迁移Agent向主机迁移服务注册自身连接状态并将源端服务器信息上报到主机迁移服务,完成迁移可行性检查。 通过迁移可行性检查后,用户开始创建迁移任务,具体操作方法请您参见创建迁移任务。 迁移Agent获取并执行主机迁移服务发送的迁移指令。 开始迁移源端服务器系统盘。 开始迁移源端服务器数据盘。 源端:指迁移任务中的源端服务器。 目的端:指迁移任务中的目的端服务器。 服务端:指主机迁移服务。 服务入口
  • 新建外部链接 参考登录零代码工作台中操作,登录AstroZero零代码工作台。 在全部应用中,单击应用后的“...”,选择“编辑”,进入编辑应用页面。 在左侧导航栏中,单击“新建”,选择“新建外部链接”。 设置外部链接信息。 图1 新建外部链接 页面名称:设置页面名称。 URL:输入外部页面链接地址。 打开方式-新页面打开:勾选后,在新页面打开。 隐藏PC端:在PC端隐藏该外部链接。 隐藏移动端:在移动端隐藏该外部链接。 设置完成后,单击“确定”。 在左侧表单列表中,可查看到已新建的外部链接。单击该链接,可跳转到对应页面。 图2 外部链接地址 如果新建外部链接时,勾选了“隐藏PC端”,在应用查看页面,将无法查看到该外部链接。 图3 隐藏外部链接
  • 新建外部链接 参考登录AstroZero移动端零代码工作台中操作,登录AstroZero移动端零代码工作台。 在全部应用中,单击已创建的应用,进入应用。 在应用页面的右下方,单击。 在弹出的页面,单击,选择“编辑应用”。 图1 编辑应用 在导航设置页签,单击“新建”,选择“新建外部链接”。 图2 选择新建外部链接 设置外部链接信息。 图3 新建外部链接 设置完成后,单击“确定”。 在导航设置中,可查看到已新建的外部链接。单击该链接,可跳转到对应页面。 图4 外部链接地址
  • 规则 禁止修改表索引类型。 Hudi表的索引会决定数据存储方式,随意修改索引类型会导致表中已有的存量数据与新增数据之间出现数据重复和数据准确性问题。常见的索引类型如下: 布隆索引:Spark引擎独有索引,采用bloomfiter机制,将布隆索引内容写入到Parquet文件的footer中。 Bucket索引:在写入数据过程中,通过主键进行Hash计算,将数据进行分桶写入;该索引写入速度最快,但是需要合理配置分桶数目;Flink、Spark均支持该索引写入。 状态索引:Flink引擎独有索引,是将行记录的存储位置记录到状态后端的一种索引形式,在作业冷启动过程中会遍历所有数据存储文件生成索引信息。 用Flink状态索引,Flink写入后,不支持Spark继续写入。 Flink在写Hudi的MOR表只会生成log文件,后续通过compaction操作,将log文件转为parquet文件。Spark在更新Hudi表时严重依赖parquet文件是否存在,如果当前Hudi表写的是log文件,采用Spark写入就会导致重复数据的产生。在批量初始化阶段 ,先采用Spark批量写入Hudi表,在用Flink基于Flink状态索引写入不会有问题,原因是Flink冷启动的时候会遍历所有的数据文件生成状态索引。 实时入湖场景中,Spark引擎采用Bucket索引,Flink引擎可以用Bucket索引或者状态索引。 实时入湖都是需要分钟内或者分钟级的高性能入湖,索引的选择会影响到写Hudi表的性能。在性能方面各个索引的区别如下: Bucket索引 优点:写入过程中对主键进行hash分桶写入,性能比较高,不受表的数据量限制。Flink和Spark引擎都支持,Flink和Spark引擎可以实现交叉混写同一张表。 缺点:Bucket个数不能动态调整,数据量波动和整表数据量持续上涨会导致单个Bucket数据量过大出现大数据文件。需要结合分区表来进行平衡改善。 Flink状态索引 优点:主键的索引信息存在状态后端,数据更新只需要点查状态后端即可,速度较快;同时生成的数据文件大小稳定,不会产生小文件、超大文件问题。 缺点:该索引为Flink特有索引。在表的总数据行数达到数亿级别,需要优化状态后端参数来保持写入的性能。使用该索引无法支持Flink和Spark交叉混写。 对于数据总量持续上涨的表,采用Bucket索引时,须使用时间分区,分区键采用数据创建时间。 参照Flink状态索引的特点,Hudi表超过一定数据量后,Flink作业状态后端压力很大,需要优化状态后端参数才能维持性能;同时由于Flink冷启动的时候需要遍历全表数据,大数据量也会导致Flink作业启动缓慢。因此基于简化使用的角度,针对大数据量的表,可以通过采用Bucket索引来避免状态后端的复杂调优。 如果Bucket索引+分区表的模式无法平衡Bueckt桶过大的问题,还是可以继续采用Flink状态索引,按照规范去优化对应的配置参数即可。
  • 建议 基于Flink的流式写入的表,在数据量超过2亿条记录,采用Bucket索引,2亿以内可以采用Flink状态索引。 参照Flink状态索引的特点,Hudi表超过一定数据量后,Flink作业状态后端压力很大,需要优化状态后端参数才能维持性能;同时由于Flink冷启动的时候需要遍历全表数据,大数据量也会导致Flink作业启动缓慢。因此基于简化使用的角度,针对大数据量的表,可以通过采用Bucket索引来避免状态后端的复杂调优。 如果Bucket索引+分区表的模式无法平衡Bueckt桶过大的问题,还是可以继续采用Flink状态索引,按照规范去优化对应的配置参数即可。 基于Bucket索引的表,按照单个Bucket 2GB数据量进行设计。 为了规避单个Bucket过大,建议单个Bucket的数据量不要超过2GB(该2GB是指数据内容大小,不是指数据行数也不是parquet的数据文件大小),目的是将对应的桶的Parquet文件大小控制在256MB范围内(平衡读写内存消耗和HDFS存储有效利用),因此可以看出2GB的这个限制只是一个经验值,因为不同的业务数据经过列存压缩后大小是不一样的。 为什么建议是2GB? 2GB的数据存储成列存Parquet文件后,大概的数据文件大小是150MB ~ 256MB左右。不同业务数据会有出入。而HDFS单个数据块一般会是128MB,这样可以有效的利用存储空间。 数据读写占用的内存空间都是原始数据大小(包括空值也是会占用内存的),2GB在大数据计算过程中,处于单task读写可接受范围之内。 如果是单个Bucket的数据量超过了该值范围,可能会有什么影响? 读写任务可能会出现OOM的问题,解决方法就是提升单个task的内存占比。 读写性能下降,因为单个task的处理的数据量变大,导致处理耗时变大。
  • 在业务情况允许的情况下使用高性能算子 使用reduceByKey/aggregateByKey替代groupByKey。 所谓的map-side预聚合,说的是在每个节点本地对相同的key进行一次聚合操作,类似于MapReduce中的本地combiner。 map-side预聚合之后,每个节点本地就只会有一条相同的key,因为多条相同的key都被聚合起来了。其他节点在拉取所有节点上的相同key时,就会大大减少需要拉取的数据数量,从而也就减少了磁盘IO以及网络传输开销。通常来说,在可能的情况下,建议使用reduceByKey或aggregateByKey算子来替代掉groupByKey算子。因为reduceByKey和aggregateByKey算子都会使用用户自定义的函数对每个节点本地的相同key进行预聚合。而groupByKey算子是不会进行预聚合的,全量的数据会在集群的各个节点之间分发和传输,性能相对来说比较差。 使用mapPartitions替代普通map。 mapPartitions类的算子,一次函数调用会处理一个partition所有的数据,而不是一次函数调用处理一条,性能相对来说会高一些。 但是有的时候,使用mapPartitions会出现OOM(内存溢出)的问题。因为单次函数调用就要处理掉一个partition所有的数据,如果内存不够,垃圾回收时是无法回收掉太多对象的,很可能出现OOM异常。所以使用这类操作时要慎重! 使用filter之后进行coalesce操作。 通常对一个RDD执行filter算子过滤掉RDD中较多数据后(比如30%以上的数据),建议使用coalesce算子,手动减少RDD的partition数量,将RDD中的数据压缩到更少的partition中去。因为filter之后,RDD的每个partition中都会有很多数据被过滤掉,此时如果照常进行后续的计算,其实每个task处理的partition中的数据量并不是很多,有一点资源浪费,而且此时处理的task越多,可能速度反而越慢。因此用coalesce减少partition数量,将RDD中的数据压缩到更少的partition之后,只要使用更少的task即 可处理完所有的partition。在某些场景下,对于性能的提升会有一定的帮助。 使用repartitionAndSortWithinPartitions替代repartition与sort类操作。 repartitionAndSortWithinPartitions是Spark官网推荐的一个算子,官方建议,如果需要在 repartition重分区之后,还要进行排序,建议直接使用repartitionAndSortWithinPartitions 算子。因为该算子 可以一边进行重分区的shuffle操作,一边进行排序。shuffle与sort两个操作同时进行,比先shuffle再sort来说,性能可能是要高的。 使用foreachPartitions替代foreach。 原理类似于“使用mapPartitions替代map”,也是一次函数调用处理一个partition的所有数据,而不是一次函数调用处理一条数 据。在实践中发现,foreachPartitions类的算子,对性能的提升还是很有帮助的。比如在foreach函数中,将RDD中所有数据写 MySQL,那么如果是普通的foreach算子,就会一条数据一条数据地写,每次函数调用可能就会创建一个数据库连接,此时就势必会频繁地创建和销毁数据库连接,性能是非常低下;但是如果用foreachPartitions算子一次性处理一个partition的数据,那么对于每个 partition,只要创建一个数据库连接即可,然后执行批量插入操作,此时性能是比较高的。
共100000条