检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
在HPC集群上运行MPI应用 在HPC集群上运行IB驱动自带的OpenMPI 在HPC集群上运行社区OpenMPI 在HPC集群上运行Spectrum MPI 在HPC集群上运行Intel MPI 在HPC集群上运行Platform MPI 父主题： 弹性云服务器场景典型应用
附录 常见问题 主要概念 父主题： 基于STAR-CCM+部署HPC集群
SFS Turbo提供按需扩展的高性能文件存储（NAS），可为云上多个弹性云服务器（Elastic Cloud Server，ECS），容器（CCE&CCI），裸金属服务器（BMS）提供共享访问，能够弹性伸缩至320TB规模，具备高可用性和持久性，为海量的小文件、低延迟高IOPS型应用提供有力支持。
主要概念 RDMA RoCE 父主题： 附录
使用“PuTTY”，采用密钥对方式登录弹性云服务器。 登录用户为创建弹性云服务器时指定的用户名。 执行以下命令，防止系统超时退出。 # TMOUT=0 执行以下命令，验证参加测试的弹性云服务器之间是否可以免密码互相登录。 $ ssh 用户名@SERVER_IP 执行以下命令，关闭弹性云服务器的防火墙。 #
在HPC集群上运行MPI应用（鲲鹏BMS场景） 该任务指导以CentOS 7.6的操作系统为例在集群上运行MPI应用。 安装和使用IB驱动自带的Open MPI 安装和使用社区OpenMPI 安装和使用MPICH 父主题： 裸金属服务器场景典型应用
nd、iWARP。RDMA的实现方式主要分为InfiniBand和Ethernet两种传输网络。而在以太网上，又可以根据与以太网融合的协议栈的差异分为iWARP和RoCE(包括RoCEv1和RoCEv2)。其中，InfiniBand是最早实现RDMA的网络协议，被广泛应用到高性能计算中。
在HPC集群上运行MPI应用（X86 BMS场景） 该任务指导以CentOS7.3的OS为例在集群上运行MPI应用。 IB驱动自带的OpenMPI 社区OpenMPI Spectrum MPI Intel MPI Platform MPI 父主题： 裸金属服务器场景典型应用
常见问题 RoCE网络问题 STAR-CCM+启动相关问题 父主题： 附录
该任务指导用户在已配置好的弹性云服务器上，运行社区MPI应用（3.1.1版本）。 前提条件 已成功创建带IB网卡的弹性云服务器，并绑定了弹性IP进行登录。 已使用私有镜像创建多个弹性云服务器。 操作步骤 使用“PuTTY”，采用密钥对方式登录弹性云服务器。 登录用户为创建弹性云服务器时指定的用户名。
依次登录集群中所有ECS，重复执行1.a～1.c，关闭所有ECS的防火墙。 修改配置文件。 登录集群中任意一台ECS。 执行以下命令，查看ECS的主机名。 # hostname 图2 查看主机名 依次登录集群中所有ECS，重复执行2.a～2.b，获取所有ECS的主机名。 登录集群中任意一台ECS。
存访问。目前RoCE有两个协议版本，v1和v2。其中RoCE v1是一种链路层协议，允许在同一个广播域下的任意两台主机直接访问。而RoCE v2是一种Internet层协议，即可以实现路由功能。虽然RoCE协议这些好处都是基于融合以太网的特性，但是RoCE协议也可以使用在传统以太网网络或者非融合以太网络中。
配置节点互信 配置节点互信免密登录 STAR-CCM+集群运行时候需要跨节点运行，推荐使用互信免密登录。 # 生成ssh公钥和私钥 ssh-key-gen # 拷贝公钥到指定主机的~/.ssh/authorized_key文件中 ssh-copy-id root@目标主机IP 例如：ssh-copy-id
依次登录集群中所有ECS，重复执行步骤1.1～步骤1.3，关闭所有ECS的防火墙。 修改配置文件。 登录集群中任意一台ECS。 执行以下命令，查看ECS的主机名。 # hostname 图2 查看ECS的主机名 依次登录集群中所有ECS，重复执行步骤2.1～步骤2.2，获取所有ECS的主机名。
MPI安装 Platform MPI安装 PlatformMPI使用STAR-CCM+自带的，不需要安装。 OpenMPI安装（可选） 若使用STAR-CCM+自带的，可不用安装。 cd /root tar zxvf openmpi-4.0.1.tar.gz cd openmpi-4
ofa-v2-cma-roe-enp177s0是上一步/etc/dat.conf中首行配置的名称； client端的192.168.0.96是server端的ip。 验证通过的观测指标：client和server端都出现DAPL Test Complete. PASSED则表示验证通过
15:/ 是从sfs turbo console中获取到的挂载的路径。 第1个1表示备份文件系统，第2个1表示从/分区的顺序开始fsck磁盘检测，0表示不检测，_rnetdev 表示主机无法挂载直接跳过，避免无法挂载主机无法启动。 设置服务开机自启动 systemctl enable rpcbind
B机器作为Server端，A机器作为Client端，dtest/rping测试RoCE网络仍异常。 解决方案： 1.请检查集群中每个节点的配置文件/etc/dat.conf中"ofa-v2-cma-roe-enp177s0"是否放在首行且每个节点都一致。 2.若以上方法无法解决，请联系技术支持处理。
hiroce gids：查下设备名和index。 UCX_NET_DEVICES: hiroce gids查到的有ip值一行的ib_dev的值: port的值。 UCX_IB_GID_INDEX：hiroce gids查到的有ip值一行的idx的值。 2.若以上方法无法解决，请联系技术支持进行处理。
创建HPC私有镜像 前提条件 创建镜像需选择ECS系统盘镜像。 需修改镜像属性才能在ECS创建界面的C6h规格中选择到相应的镜像。 镜像获取 请联系技术支持进行操作。 创建系统盘镜像 请使用镜像文件创建系统盘镜像，需注意镜像用途选择ECS系统盘镜像如图1，选择启动方式为UEFI图2，否则系统无法启动。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
