华为云用户手册

  • edge.h回调函数说明 模块影子数据回调 函数描述: typedef EDGE_RETCODE (FN_SHADOW_ARRIVED)(const char* shadow, unsigned int shadow_len); 函数功能: 当下发模块配置时,通过此函数通知到用户,用户应用的配置也通过此函数通知。 表2 参数说明 参数名称 类型 参数描述 示例 shadow char* 模块影子数据(json字符串),第三方应用下发用户的配置数据 { “config”:”test” } shadow_len unsigned int 影子数据的长度 - 命令下发回调 函数描述: typedef EDGE_RETCODE (FN_COMMAND_ARRIVED)(const char* command_name, const char* device_id, const char* service_id, const char* request_id, const char* body, unsigned int body_len); 函数功能: 此函数声明用户命令下发通知,设备命令下发即使用此函数声明。 表3 参数说明 参数名称 类型 参数描述 command_name char* 设备命令名称,在设备关联的产品模型中定义。 device_id char* 命令对应的目标设备ID,命令下发对应的最终目标设备 service_id char* 设备的服务ID,在设备关联的产品模型中定义 request_id char* {request_id}用于唯一标识这次请求,响应该命令时需要带上。 body char* json字符串,设备命令的执行参数,具体字段在设备关联的产品模型中定义 body_len unsigned int - 消息下发回调 函数描述: typedef EDGE_RETCODE (FN_MESSAGE_ARRIVED)(const char* message_id, const char* message_name, const char* device_id, const char* body, unsigned int body_len); 函数功能: 此函数声明用于消息下发通知,平台使用此接口承接平台下发给设备的自定义格式的数据。 表4 参数说明 参数名称 类型 参数描述 message_id char* 消息名称 message_name char* 消息的唯一标识 device_id char* 命令对应的目标设备ID,命令下发对应的最终目标设备 body char* 消息内容。 body_len unsigned int 消息长度 事件下发回调 函数描述: typedef EDGE_RETCODE (FN_DEVICE_EVENT_ARRIVED)(const char* device_id, const char* body, unsigned int body_len); 函数功能: 此函数声明用于事件下发通知,平台使用此接口承接平台下发给设备的自定义格式的数据。 表5 参数说明 参数名称 类型 参数描述 示例 device_id char* 命令对应的目标设备ID,命令下发对应的最终目标设备 - body char* 事件内容。 { "object_device_id":"deviceId", "services":[ { "service_id":"serviceTest", "event_id":"eventTest", "event_type":"eventTypeTest", "event_time":"time", "paras":{ "test":"test" } } ] } body_len unsigned int 消息长度 - 子设备添加回调 函数描述: typedef EDGE_RETCODE (FN_SUB_DEVICE_ADD_ARRIVED)(const char* addSubDeviceInfo, unsigned int body_len); 函数功能: 此函数声明用于通知子设备添加,使用此接口承接平台添加成功子设备的通知。 表6 参数说明 参数名称 类型 参数描述 示例 addSubDeviceInfo char* 添加成功的子设备信息,具体格式见示例 {"devices": [{"parent_device_id":"c6b39067b03421a48", "node_id": "subdevice11", "device_id":"2bb77-063ad2f5a6cc", "name": "subDevice11", "description": null, "product_id":"c6b3b34663d3ea42f6", "fw_version": null, "sw_version": null, "status": "ONLINE" }],"version":1} body_len unsigned int 长度 - 子设备删除回调 函数描述: typedef EDGE_RETCODE (FN_SUB_DEVICE_DELETED_ARRIVED)(const char* deleteSubDeviceInfo, unsigned int body_len); 函数功能: 此函数声明用于通知子设备删除,使用此接口承接平台删除成功子设备的通知。 表7 参数说明 参数名称 类型 参数描述 示例 deleteSubDeviceInfo char* 删除成功的子设备信息,具体格式见示例 {"devices": [{"parent_device_id":"c6b39067b03421a48", "node_id": "subdevice11", "device_id":"2bb77-063ad2f5a6cc", "name": "subDevice11", "description": null, "product_id":"c6b3b34663d3ea42f6", "fw_version": null, "sw_version": null, "status": "ONLINE" }],"version":1} body_len unsigned int 长度 - 子设备扫描回调 函数描述: typedef EDGE_RETCODE (FN_START_SCAN_ARRIVED)(const char* protocol, const char* channel, const char* parentDeviceId,const char* scan_setting, unsigned int body_len); 函数功能: 此函数声明用于通知网关扫描子设备。 表8 参数说明 参数名称 类型 参数描述 protocol char* 协议 channel char* 通道信息 parentDeviceId char* 父设备ID scan_setting char* 扫描设备 body_len unsigned int 配置长度 子设备属性设置回调 函数描述: typedef EDGE_RETCODE (FN_DEVICE_PROPERTIES_SET_ARRIVED)(ST_PROPERTY_SET* sub_device_property_set); 函数功能: 此函数声明用于接收平台对子设备的属性设置。 表9 参数说明 参数名称 类型 参数描述 示例 sub_device_property_set ST_PROPERTY_SET* 属性设置 参见edge.h 子设备属性获取回调 函数描述: typedef EDGE_RETCODE (FN_DEVICE_PROPERTIES_GET_ARRIVED)(ST_PROPERTY_GET* sub_device_property_get); 函数功能: 此函数声明用于接收平台获取子设备的属性。 表10 参数说明 参数名称 类型 参数描述 示例 sub_device_property_get ST_PROPERTY_GET* 属性设置 参见edge.h 子设备影子回调 函数描述: typedef EDGE_RETCODE (FN_DEVICE_SHADOW_ARRIVED)(ST_DEVICE_SHADOW* sub_device_shadow); 函数功能: 此函数声明用于接收平台设置子设备的影子。 表11 参数说明 参数名称 类型 参数描述 示例 sub_device_property_get ST_DEVICE_SHADOW* 属性设置 参见edge.h 自定义topic 消息通知 回调 函数描述: typedef EDGE_RETCODE (FN_CUSTOMIZED_MESSAGE_ARRIVED)(const char* topic, const char* payload, unsigned int len); 函数功能: 此函数声明用于接收平台设置子设备的影子。 表12 参数说明 参数名称 类型 参数描述 topic char* 自定义topic payload char* 消息内容 len unsigned int 消息长度
  • 约束条件 目前,SCM证书仅支持一键部署到WAF的“default”企业项目下。如果您使用的是其他项目,则无法直接部署,您可以先将证书下载到本地,然后再到WAF控制台上传证书并进行部署。 申请证书时,如果“证书请求文件”选择的是“自己生成 CS R”,那么签发的证书不支持一键部署到云产品。如需在对应云产品中使用证书,可以先将证书下载到本地,然后再到对应云产品中上传证书并进行部署。 国密证书暂不支持一键部署到华为云其他云产品。
  • 修订记录 发布日期 修改说明 2024-05-30 第三十四次正式发布。 新增标签管理章节,增加对接TMS标签管理的描述。 刷新推送SSL证书到云产品章节,推送SSL证书至WAF时,可选择企业项目。 刷新查看已关联云资源章节,增加过期证书可查看部署记录的描述。 2024-03-15 第三十三次正式发布。 新增安装国密标准(SM2)SSL证书到Web服务器章节,增加国密证书安装的操作指导。 刷新查看SSL证书详情章节,补充关联资源的参数描述。 刷新查看已关联云资源章节,优化查看关联资源的步骤描述。 2023-12-15 第三十一次正式发布。 优化开启SSL证书到期自动替换章节,增加根证书校验场景的描述。 优化查看SSL证书详情章节,增加关于过期证书自动折叠不显示的相关描述。 2023-10-17 第三十次正式发布。 优化购买SSL证书章节,补充多年期证书显示剩余年数的描述。 优化删除SSL证书章节,补充批量删除证书功能的描述。 优化推送SSL证书到云产品,补充当推送证书到WAF、ELB时可勾选多个区域,实现多区域证书推送功能的描述。 优化查看SSL证书详情章节,优化修改证书名称和描述的步骤。 刷新 域名 证书监控章节,新增域名证书监控支持包周期付费的说明。 2023-08-17 第二十九次正式发布。 优化推送SSL证书到云产品章节,推送SSL证书至云产品约束条件。 2023-06-30 第二十八次正式发布。 新增域名证书监控章节。 新增CSR管理章节。 优化申请SSL证书章节,多域名证书,主域名同时支持绑定泛域名和单域名。 2023-06-12 第二十七次正式发布。 优化吊销SSL证书约束限制。 2023-04-17 第二十六次正式发布。 新增开启SSL证书到期自动替换和关闭SSL证书到期自动替换章节。 2023-04-10 第二十五次正式发布。 优化重新签发章节内容,CFCA 品牌、TrustAsia品牌和vTrus品牌签发后,重签时间限制为25天。 2023-03-24 第二十四次正式发布。 优化重新签发章节内容,免费证书不支持重新签发。 2023-02-21 第二十三次正式发布。 优化在Tomcat服务器上安装SSL证书、在Nginx服务器上安装SSL证书、在Apache服务器上安装SSL证书,增加操作系统、服务器版本说明。 2023-01-19 第二十二次正式发布。 刷新方式二:手动DNS验证章节,修改记录类型说明。 优化方式三:文件验证(IP证书&DV证书),章节,新增创建文件夹示例。 2023-01-11 第二十一次正式发布。 刷新方式二:手动DNS验证章节,新增DNS验证结果审核说明。 刷新方式三:文件验证(IP证书&DV证书)章节,说明仅IP证书支持文件验证。 新增查看已关联云资源章节。 2022-12-23 第二十次正式发布。 优化手动续费、自动续费章节。 2022-11-16 第十九次正式发布。 优化SCM自定义策略。 刷新提交 SSL证书申请 章节内容,增加vTrus品牌资料补充说明。 2022-11-03 第十八次正式发布。 新增TrustAsia、vTrus两个品牌。 2022-10-31 第十七次正式发布。 优化文档架构。用户指南拆分为SSL证书管理和私有证书管理两本手册。 优化SCM权限管理、SCM关键操作审计管理以及部署国际标准SSL证书到 华为云产品 章节内容。 2022-09-29 第十六次正式发布。 优化在Tomcat服务器上安装SSL证书、在Nginx服务器上安装SSL证书、在Apache服务器上安装SSL证书、在IIS服务器上安装SSL证书、在Weblogic服务器上安装SSL证书、在Resin服务器上安装SSL证书章节内容。 2022-09-23 第十五次正式发布。 刷新提交SSL证书申请章节内容,新增根证书哈希算法、敏感词等描述。 优化重新签发章节内容,多域名证书不支持重新签发。 2022-08-30 第十四次正式发布。 刷新购买SSL证书章节内容,新增CFCA证书品牌。 优化续费SSL证书章节内容。 2022-08-09 第十三次正式发布。 优化购买SSL证书章节内容,根据控制台调整相关资料描述。 2022-07-27 第十二次正式发布。 优化方式二:手动DNS验证章节内容,增加域名验证解析说明、步骤五域名验证审核操作。 2022-07-11 第十一次正式发布。 优化购买SSL证书章节内容,支持购买多年期(2年或3年)SSL证书。 优化续费SSL证书章节内容,支持设置开通自动续费。 2022-06-22 第十次正式发布。 优化上传已有SSL证书章节内容,新增国密(SM)证书上传说明。 新增下载根证书章节内容。 2022-04-20 第九次正式发布。 新增部署国际标准SSL证书到华为云产品章节。 2021-11-26 第八次正式发布。 新增手动续费、分配SSL证书至企业项目章节。 2021-11-01 第七次正式发布。 根据界面控制台显示修改刷新资料。 调整文档架构。 新增申购SSL证书概述、购买SSL证书、提交SSL证书申请、域名验证、组织验证(OV、EV)、签发SSL证书章节。 2021-09-30 第六次正式发布。 新增退订SSL证书章节内容,支持在控制台直接退订SSL证书订单。 2021-06-15 第五次正式发布。 新增在Resin服务器上安装SSL证书章节内容。 2021-03-19 第四次正式发布。 刷新上传已有SSL证书章节内容,上传SSL证书支持到期邮件和短信提醒。 2021-03-12 第三次正式发布。 根据申请SSL证书优化后的界面刷新截图。 SSL证书管理新增自动DNS验证功能。 2021-01-26 第二次正式发布。 合入SSL证书管理相关功能。 增加重新签发章节。 2020-01-17 第一次正式发布。
  • MRS 集群配置委托 配置存算分离支持在新建集群中配置委托实现,也可以通过为已有集群绑定委托实现。本示例以为已有集群配置委托为例介绍。 登录MRS控制台,在导航栏选择“现有集群”。 单击集群名称,进入集群详情页面。 在集群详情页的“概览”页签,单击“ IAM 用户同步”右侧的“单击同步”进行IAM用户同步。 在集群详情页的“概览”页签,单击“委托”右侧的“管理委托”选择创建ECS委托的委托并单击“确定”进行绑定,或单击“新建委托”进入IAM控制台进行创建后再在此处进行绑定。 图3 绑定委托
  • Hive访问OBS文件系统 用root用户登录集群Master节点,具体请参见登录集群节点。 验证Hive访问OBS。 用root用户登录集群Master节点,执行如下命令: cd /opt/Bigdata/client source bigdata_env source Hive/component_env 查看文件系统mrs-demo01下面的文件列表。 hadoop fs -ls obs://mrs-demo01/ 返回文件列表即表示访问OBS成功。 图5 查看mrs-demo01下的文件列表 执行以下命令进行用户认证(普通模式即未开启Kerberos认证无需执行此步骤)。 kinit hive 输入用户hive密码,默认密码为Hive@123,第一次使用需要修改密码。 执行Hive组件的客户端命令。 beeline 在beeline中直接使用OBS的目录进行访问。例如,执行如下命令创建Hive表并指定数据存储在mrs-demo01文件系统的test_demo01目录中。 create table test_demo01(name string) location "obs://mrs-demo01/test_demo01"; 执行如下命令查询所有表,返回结果中存在表test_demo01,即表示访问OBS成功。 show tables; 图6 查看是否存在表test_demo01 查看表的Location。 show create table test_demo01; 查看表的Location是否为“obs://OBS桶名/”开头。 图7 查看表test_demo01的Location 写入数据。 insert into test_demo01 values('mm'),('ww'),('ww'); 执行select * from test_demo01;查询是否写入成功。 图8 查看表test_demo01中的数据 执行命令!q退出beeline客户端。 重新登录OBS控制台。 单击“并行文件系统”, 选择创建的文件系统名称。 单击“文件”,查看是否存在创建的数据。 图9 查看数据
  • 常见问题 镜像保存时报错“there are processes in 'D' status, please check process status using 'ps -aux' and kill all the 'D' status processes”如何解决? 镜像保存时报错“container size %dG is greater than threshold %dG”如何解决? 保存镜像时报错“too many layers in your image”如何解决? 镜像保存时报错“The container size (xG) is greater than the threshols (25G)”如何解决?
  • 规范要求 推荐 自定义镜像 使用ubuntu-18.04的操作系统,避免出现版本不兼容的问题。 自定义镜像的大小推荐15GB以内,最大不要超过资源池的容器引擎空间大小的一半。镜像过大会直接影响训练作业的启动时间。 ModelArts公共资源池的容器引擎空间为50G,专属资源池的容器引擎空间的默认为50G,支持在创建专属资源池时自定义容器引擎空间。 自定义镜像的默认用户必须为“uid”为“1000”的用户。 自定义镜像中不能安装GPU或Ascend驱动程序。当用户选择GPU资源运行训练作业时,ModelArts后台自动将GPU驱动程序放置在训练环境中的 /usr/local/nvidia目录;当用户选择Ascend资源运行训练作业时,ModelArts后台自动将Ascend驱动程序放置在/usr/local/Ascend/driver目录。 X86 CPU架构,ARM CPU架构的自定义镜像分别只能运行于对应CPU架构的规格中。 执行如下命令查看自定义镜像的CPU架构 docker inspect {自定义镜像地址} | grep Architecture ARM CPU架构的自定义镜像,上述命令回显示意如下 "Architecture": "arm64" 规格中带有ARM字样的显示,为ARM CPU架构。 规格中未带有ARM字样的显示,为X86 CPU架构。 ModelArts后台暂不支持下载开源安装包,建议用户在自定义镜像中安装训练所需的依赖包。
  • 计算资源规格 按政企业务对计算资源需求的不同,CloudPond将现有计算资源规格分为三类,请结合自身需求参考表1,初步判断业务所需的算力种类。然后根据计算资源规格章节查询具体可支持的配置型号。 表1 计算资源规格 计算资源种类 可支持算力种类 可发放虚拟机规格 通用计算单元 C6s 规格清单 S6 M6s C7n S7n M7n kM1s kC1s 数据密集型单元 I3 D6 I7n D7 kI1s GPU计算单元 Pi2
  • 边云同构,体验一致 利用华为云擎天架构的独特优势,用户在CloudPond能够获得与中心云一致的体验。网络、运行环境和管理体系在边云保持一致。同时,通过VPC跨中心和边缘部署,便于用户在多场景下的服务和数据协同。 一张分布式网络:边云分布式网络,无缝连接企业和中心云的内网。 CloudPond所在的边缘可用区和中心云的通用可用区通过边缘网关进行连接,共享同一 虚拟私有云VPC 。 一致运行环境:边云API,服务实例,服务规格保持一致。 一套管理体系:边云复用同一套管理模型,提供不同颗粒度的权限控制。边云使用统一的管理界面及控制台。
  • 完全托管的基础设施 CloudPond完全由华为云管理和支持,包括交付、安装、维护和升级等。使用CloudPond,您可以减少管理IT基础设施所需的时间、资源、运营风险和维护停机时间。 极简架构:本地无单独的管理节点,相比线下云产品更轻量。 整柜交付:标准化整柜极速交付,货到现场后最快2天内即可使用。 统一运维和升级:通过统一运维平台对边缘小站管理软件和各类云服务进行远程运维和定期升级。 托管式服务:CloudPond一体化机柜由华为云运维团队提供现场运维,硬件故障时将由工程师上门更换备件。 用户仅负责机房运维即可,对其技能要求大幅下降。 您可以参考支持计划了解更多企业级技术支持服务的详情。
  • 修订记录 发布日期 更新内容 2023-9-13 第六次正式发布。 服务名称变更:“智能边缘小站 IES”更名为“智能边缘小站CloudPond”。 计费说明章节,修改扩容方式。 2023-06-30 第五次正式发布。 修改与其他云服务的关系,增加ELB、DWS服务和CloudPond的交互关系。 2022-12-09 第四次正式发布。 新增产品规格。 修改 约束与限制,对内容结构进行调整。 与其他云服务的关系,新增CloudPond支持的可选云服务。 2022-09-23 第三次正式发布。 修改常用概念,场地概念替换为部署位置。 2022-05-30 第二次正式发布。 修改 约束与限制,修改CloudPond支持的计算资源规格和存储资源规格,新增ECS使用限制。 部署要求,修改网络要求中的网络延时。 2021-11-02 第一次正式发布。
  • 超高IO型块存储 超高IO型块存储包含的存储资源主要适用于政企用户部署性能敏感类数据业务到CloudPond上使用的场景,对应华为云EVS的实例包含超高IO EVS系列,用户可根据存储不同规格情况选择对应的存储资源商品。具体规格请参考表1。 表1 超高IO型块存储 名称 类型 存储起购容量 商品描述 超高IO型块存储-36TiB档 超高IO 17TiB 适用于较低容量的超高IO云硬盘部署场景 超高IO型块存储-72TiB档 超高IO 34TiB 适用于中等容量的超高IO云硬盘部署场景 超高IO型块存储-108TiB档 超高IO 51TiB 适用于较大容量的超高IO云硬盘部署场景 超高IO型块存储-144TiB及144TiB以上档 超高IO 68TiB 适用于大容量的超高IO云硬盘部署场景 用户后续进行存储扩容时所需支付的相关费用,将按用户首次购买存储资源的档位单价进行计算。 例如:用户首次购买 17TiB 超高IO 云硬盘,则后续扩容至51TiB容量时,扩容的存储将使用超高IO型块存储-17TiB档的资源单价进行计算。 块存储硬件机型,根据业务诉求不同,可支持x86型和ARM型。 父主题: 存储资源规格
  • 高IO型块存储 高IO型块存储包含的存储资源主要适用于政企用户部署大容量低成本类数据业务到CloudPond上使用的场景,对应华为云EVS的实例包含高IO EVS系列,用户可根据存储不同规格情况选择对应的存储资源商品,具体规格请参考表1。 表1 高IO型块存储 名称 类型 存储起购容量 商品描述 高IO型块存储-36TiB档 高IO 36TiB 适用于较低容量的高IO云硬盘部署场景 高IO型块存储-72TiB档 高IO 72TiB 适用于中等容量的高IO云硬盘部署场景 高IO型块存储-108TiB档 高IO 108TiB 适用于较大容量的高IO云硬盘部署场景 高IO型块存储-144TiB及144TiB以上档 高IO 144TiB 适用于大容量的高IO云硬盘部署场景 用户后续进行存储扩容时所需支付的相关费用,将按照用户首次购买存储资源的档位单价进行计算。 例如:用户首次购买36TiB 高IO 云硬盘,则后续扩容至108TiB容量时,扩容的存储将使用高IO型块存储-36TiB档的资源单价进行计算。 块存储硬件机型,根据业务诉求不同,可支持x86型和ARM型。 父主题: 存储资源规格
  • 数据安全 CloudPond整体上继承华为云数据安全治理要求,详见华为云数据安全白皮书。 数据安全传输:数据在CloudPond和中心云之间传输数据时均进行了加密。 数据安全使用:建议用户对数据进行识别和分类;对敏感的数据默认加密;使用安全组、网络ACL(Access Control Lists)对资源实施网络访问控制。此外建议您使用 云审计 服务(Cloud Trace Service, CTS ),对用户访问数据的行为进行审计。 数据安全销毁:当用户停止使用CloudPond前,请先对CloudPond上需要保留的数据进行转储。和用户退订使用中心云上的资源一样,CloudPond上存储的数据会以符合业界标准的方式被安全的删除,确保删除的数据永远无法恢复。
  • CloudPond基础设施安全 华为云致力于打造可信云平台,CloudPond整体上继承了华为 云安全 建设规范,具体安全方案细节请参见华为云安全白皮书。 CloudPond用户侧和平台侧分别实施了严格的安全隔离策略,华为云负责CloudPond平台的运维和安全运营,提供7*24小时安全监控运营服务。 CloudPond平台侧默认全部部署了主机安全服务,华为云会定期对平台侧执行 漏洞扫描 ,并按照SLA(Service-Level Agreement)的要求及时安装补丁修复漏洞。 华为云对CloudPond平台侧的账号权限进行集中管理,并定期进行账号密钥轮换,以防止未经授权的访问。
  • 安全责任共担 CloudPond整体上遵循华为云的安全责任共担模式,即华为云负责保护CloudPond基础设施的安全,用户负责保护CloudPond上运行应用程序的安全,这一点和使用中心云通用可用区的资源是类似的。 由于CloudPond部署于用户数据中心的特殊性,使用CloudPond时,用户还需要对CloudPond所部署的地理位置及其相关基础设施的安全负责,并确保CloudPond与中心云之间的网络安全性和可用性。
  • 通信安全 中心云与CloudPond之间存在如下两类网络线路通信: 运维管理线路:该线路通过CloudPond内置VPN(Virtual Private Network)实现传输加密,保证网络通信安全。其相关数据为平台运维和服务管控层数据,不涉及用户业务数据通信。 业务互联线路:该线路通过网络加密技术实现传输加密,保证网路通信安全。其相关数据为CloudPond本地实例和中心云服务之间的通信数据,该传输数据和传输策略由用户VPC进行控制。
  • 修订记录 发布日期 修改说明 2024-05-30 第十三次正式发布。 新增标签管理章节,增加对接TMS标签管理的描述。 2023-1-11 第十一次正式发布。 刷新购买私有CA、申请私有证书章节,支持SM2算法。 刷新下载私有证书章节,增加国密证书文件下载说明。 新增配置证书吊销列表章节。 2022-11-16 第十次正式发布。 新增PCA自定义策略。 优化 购买私有CA 申请私有证书 2022-10-31 第九次正式发布。 优化文档架构。用户指南拆分为SSL证书管理和私有证书管理两本手册。 优化PCA权限管理、PCA关键操作审计管理章节内容。 2021-11-01 第八次正式发布。 根据界面控制台显示修改刷新资料。 调整文档架构。 2021-08-16 第七次正式发布。 私有证书管理服务商用版本发布,刷新相关章节内容。 2020-08-31 第六次正式发布。 优化购买私有CA,增加根CA最长有效期的说明。 优化激活私有CA,增加子CA最长有效期的说明。 2020-06-19 第五次正式发布。 优化管理私有CA、管理私有证书章节,根据控制台显示参数调整而刷新资料相关描述。 2020-04-29 第四次正式发布。 优化管理私有证书章节,支持配置申请证书的密钥长度、证书用途等参数信息。 2020-03-31 第三次正式发布。 新增章节下载私有证书。 删除“导出私有证书”、“导出私钥”章节。 2020-02-28 第二次正式发布。 申请私有证书章节中,新增支持选择证书请求文件的内容和描述。 私有证书管理服务的服务级别改为全局级别,刷新用户指南相关内容。 根据界面风格改动,刷新资料截图。 2020-01-17 第一次正式发布。
  • Hive访问OBS文件系统 用root用户登录集群Master节点,具体请参见登录集群节点。 验证Hive访问OBS。 用root用户登录集群Master节点,执行如下命令: cd /opt/Bigdata/client source bigdata_env source Hive/component_env 查看文件系统mrs-demo01下面的文件列表。 hadoop fs -ls obs://mrs-demo01/ 返回文件列表即表示访问OBS成功。 图5 查看mrs-demo01下的文件列表 执行以下命令进行用户认证(普通模式即未开启Kerberos认证无需执行此步骤)。 kinit hive 输入用户hive密码,默认密码为Hive@123,第一次使用需要修改密码。 执行Hive组件的客户端命令。 beeline 在beeline中直接使用OBS的目录进行访问。例如,执行如下命令创建Hive表并指定数据存储在mrs-demo01文件系统的test_demo01目录中。 create table test_demo01(name string) location "obs://mrs-demo01/test_demo01"; 执行如下命令查询所有表,返回结果中存在表test_demo01,即表示访问OBS成功。 show tables; 图6 查看是否存在表test_demo01 查看表的Location。 show create table test_demo01; 查看表的Location是否为“obs://OBS桶名/”开头。 图7 查看表test_demo01的Location 写入数据。 insert into test_demo01 values('mm'),('ww'),('ww'); 执行select * from test_demo01;查询是否写入成功。 图8 查看表test_demo01中的数据 执行命令!q退出beeline客户端。 重新登录OBS控制台。 单击“并行文件系统”, 选择创建的文件系统名称。 单击“文件”,查看是否存在创建的数据。 图9 查看数据
  • 为MRS集群配置委托 配置存算分离支持在新建集群中配置委托实现,也可以通过为已有集群绑定委托实现。本示例以为已有集群配置委托为例介绍。 登录MRS控制台,在导航栏选择“现有集群”。 单击集群名称,进入集群详情页面。 在集群详情页的“概览”页签,单击“IAM用户同步”右侧的“单击同步”进行IAM用户同步。 在集群详情页的“概览”页签,单击“委托”右侧的“管理委托”选择创建ECS委托的委托并单击“确定”进行绑定,或单击“新建委托”进入IAM控制台进行创建后再在此处进行绑定。 图3 绑定委托
  • 订阅 选择对应设置的发布,单击右键选择“新建订阅”。 图17 新建订阅 创建订阅的发布,单击“下一步”。 图18 创建发布 选择推送订阅,单击“下一步”。 图19 分发代理位置 选择“添加订阅服务器”,支持SQL Server引擎和非SQL Server作为订阅服务器,将创建并根据上述步骤配置的华为云实例作为一个订阅服务器。 图20 添加订阅服务器 选择一个数据库作为订阅对象。 图21 选择订阅数据库 配置与订阅服务器的连接。 图22 配置连接 使用一个长期有效的数据库帐号,保障订阅长期有效,这里的帐号设置可以为登录华为云实例的数据库帐号,单击“确定”。 图23 连接分发服务器 创建订阅成功。 图24 创建订阅 将鼠标移动到发布配置上可以看到对应的订阅信息。 图25 查看订阅
  • 发布 创建发布。 展开服务器下的“复制”节点,右键单击“本地发布”,选择“新建发布”。 图10 新建发布数据库 选择事务发布。 选择以表作为发布对象。 图11 发布表 添加筛选对象,进行个性化的发布。 图12 添加筛选对象 事务发布会先创建一个快照以复制表当前的状态。也可以设置快照代理用以执行计划。 图13 快照代理 设置代理安全性,这里需要设置登录帐号为本地sa帐号。 图14 设置代理安全性 设置发布名称,单击“完成”。 图15 完成 创建完成后可以通过复制监视器来查看是否创建发布成功。 图16 启动复制监视器
  • 背景 通常情况下大表的DDL操作都会对业务产生很大的影响,需要在业务低峰期做。MySQL 5.7支持原生DDL工具Copy和Inplace算法、以及开源DDL工具gh-ost,减少了DDL期间DML操作被阻塞的情况。但是大表DDL仍然需要花费很长时间。 instant秒级加列算法,让添加列的时候不在需要rebuild整个表,只需要在表的metadata中记录新增列的基本信息即可,可以很快执行完成。但是目前支持的DDL操作有限。
  • 使用限制 使用场景的限制: 部分场景下增加、删除、重命名(MySQL 8.0.28之后)列。 设置或删除列的默认值。 修改ENUM或SET列的定义。 更改索引的类型(BTREE | HASH)。 增加或删除虚拟列。 表名重命名。 添加或删除列的限制: 不支持有其他INSTANT语句在同一行的操作在同一条语句的情况。 新增列将会放到最后,不支持改变列的顺序(MySQL 8.0.29后支持任意位置加列)。 不支持在行格式为COMPRESSED的表上快速加列或删除。 不支持在已经有全文索引的表上快速加列或删除。 不支持在临时表上快速加列或删除。 重命名列的限制: 不支持重命名被其他表引用的列。 不支持重命名列的操作与生成或者删除虚拟列在同一个语句中。 修改ENUM或SET列的限制: 不支持ENUM或者SET列数据类型占用的存储空间发生变化。 增加或删除虚拟列的限制: 不支持对分区表的增加或删除操作。
  • 载入数据字典 MySQL从系统表读取表定义时,会将instant column相关的信息载入到InnoDB的表对象“dict_table_t”和索引对象“dict_index_t”中。 dict_table_t::n_instant_cols:第一次instant add column之前的非虚拟字段个数(包含系统列)。 dict_index_t::instant_cols:用于标示是否存在Instant column。 dict_index_t::n_instant_nullable:第一次instant add column之前的可为NULL的字段个数。 dict_col_t::instant_default:存储instant列默认值及其长度。
  • 记录格式 为了支持instant add column,针对COMPACT和DYNAMIC类型引入了新的记录格式,主要为了记录字段的个数信息。 如果没有执行过instant add column操作,则表的行记录格式保持不变。 如果执行过instant add column操作,则所有新的记录都会设置一个特殊的标记,同时在记录内存储字段的个数。 INSTANT_FLAG使用了info bits中的一个bit位,如果记录是第一次instant add column之后插入的,该flag被设置为1。 图1 记录格式
  • 新的数据字典信息 在执行instant add column的过程中,MySQL会将第一次intant add column之前的字段个数以及每次加的列的默认值保存在tables系统表的“se_private_data”字段中。 dd::Table::se_private_data::instant_col:第一次instant add column之前表上的列的个数。 dd::Column::se_private_data::default_null:标识instant column的默认值是否为NULL。 dd::Column::se_private_data::default:当instant column的默认值不是NULL时存储具体的默认值,column default value需要从InnoDB类型byte转换成“se_private_data”中的char类型。
  • 解决方案 如果想要定期刷新域名DNS解析,不用重启Nginx服务器,可以通过在Nginx上配置Resolver实现。 示例一: Nginx服务器原“nginx.conf”配置: location /prod-url-test/ { ... proxy_pass http://$proxy_url; } 添加resolver后的配置:*.*.*.*为设备网络使用的公共DNS或本地DNS,可根据业务情况配置两个DNS,valid为解析结果有效期。 location /prod-url-test/ { resolver *.*.*.* *.*.*.* valid=300s; resolver_timeout 10s; set $proxy_url "prod-url-test.example.com"; proxy_pass http://$proxy_url; } 示例二: Nginx服务器原“nginx.conf”配置: location = /test/example1.txt{ expires 30s; rewrite ^/test/example2.txt break; proxy_pass https://test.example.com; } 添加resolver配置:*.*.*.*为设备网络使用的公共DNS或本地DNS,可根据业务情况配置两个DNS,valid为解析结果有效期。 set $var_host "test.example.com"; resolver *.*.*.* *.*.*.* valid=300s; resolver_timeout 10s; location = /test/example1.txt{ expires 30s; rewrite ^/test/example2.txtbreak; proxy_pass https://$var_host; proxy_set_header Host test.example.com; }
  • 适用场景 如果您的加速域名遭受攻击,想要加固安全防护配置,比如配置防盗链、IP黑白名单等,您可以通过分析攻击时段对应的日志实现。 CDN日志包含了终端用户访问的信息,日志内容示例如下: [05/Feb/2018:07:54:52 +0800] x.x.x.x 1 "-" "HTTP/1.1" "GET" "www.test.com" "/test/1234.apk" 206 720 HIT "Mozilla/5.0 (Linux; U; Android 6.0; zh-cn; EVA-AL10 Build/HUAWEIEVA-AL10) AppleWebKit/533.1 (KHTML,like Gecko) Mobile Safari/533.1" "bytes=-256" 各字段从左到右含义如表1所示。 表1 CDN日志字段说明 序号 字段含义 字段示例 1 日志生成时间 [05/Feb/2018:07:54:52 +0800] 2 访问IP地址 x.x.x.x 3 响应时间(单位ms) 1 4 Referer信息 - 5 HTTP协议标识 HTTP/1.1 6 HTTP请求方式 GET 7 CDN加速 域名 www.test.com 8 请求路径 /test/1234.apk 9 HTTP状态码 206 10 返回字节数大小 720 11 缓存命中状态 HIT 12 User-Agent信息,其作用是让服务器能够识别客户使用的操作系统及版本、CPU类型、浏览器及版本信息等。 Mozilla/5.0 (Linux; U; Android 6.0; zh-cn; EVA-AL10 Build/HUAWEIEVA-AL10) AppleWebKit/533.1 (KHTML,like Gecko) Mobile Safari/533.1 13 Range信息,其作用是在HTTP请求头中指定返回数据的范围,即第一个字节的位置和最后一个字节的位置。 bytes参数值表示方法一般分为如下三类: bytes=x-y:表示请求第x个字节到第y个字节的数据内容。 bytes=-y:表示请求最后y个字节的数据内容。 bytes=x-:表示请求第x字节到最后一个字节的数据内容。 bytes=-256
  • 修订记录 发布日期 修订记录 2024-06-13 第二十次正式发布。 本次更新说明如下: 新增“使用 函数工作流 服务实现定时刷新缓存功能”章节。 下线“推送CDN日志到 云日志 服务(LTS)”章节。 2024-03-20 第十九次正式发布。 本次更新说明如下: 新增“客户端访问加速域名经过Nginx转发时,如何定期刷新DNS解析”章节。 2023-12-07 第十九次正式发布。 本次更新说明如下: 更新“自定义OBS私有桶策略配置”章节。 2023-10-18 第十八次正式发布。 本次更新说明如下: 完善推送CDN日志到云日志服务(LTS)的配置流程指引。 2023-06-30 第十七次正式发布。 本次更新说明如下: 增加“源站是OBS桶时如何配置自定义首页内容”。 增加“通过 日志分析 恶意访问地址”。 2023-04-27 第十六次正式发布。 本次更新说明如下: 增加“推送CDN日志到云日志(LTS)服务”。 2022-02-23 第十五次正式发布。 本次更新说明如下: 从OBS控制台为桶绑定CDN加速域名后,支持自动刷新功能。 2022-09-06 第十四次正式发布。 本次更新说明如下: 增加“CDN加速匀速建站CloudSite”。 2022-08-10 第十三次正式发布。 本次更新说明如下: 增加“CDN加速OBS常见问题”章节。 2022-08-01 第十二次正式发布。 本次更新说明如下: 更新“CDN日志转存到OBS”章节,修改“创建委托”步骤。 2022-05-24 第十一次正式发布。 本次更新说明如下: 更新“CDN日志转存到OBS”章节,新增“创建自定义策略”。 2022-03-10 第十次正式发布。 本次更新说明如下: 新增“自定义OBS私有桶策略配置”章节 2021-12-28 第九次正式发布。 本次更新说明如下: 更新“如何提高缓存命中率”章节。 2021-09-08 第八次正式发布。 本次更新说明如下: 更新“CDN日志转存到OBS”代码示例。 2021-06-18 第七次正式发布。 本次更新说明如下: 新增“获取客户端真实IP” 2021-04-28 第六次正式发布。 本次更新说明如下: 新增“CDN日志转存到OBS” 2021-04-21 第五次正式发布。 本次更新说明如下: 新增“如何提高缓存命中率” 2021-04-02 第四次正式发布。 本次更新说明如下: 新增“CDN加速ECS资源” 2021-03-19 第三次正式发布。 本次更新说明如下: 更新“CDN加速OBS桶文件” 新增“如何设置缓存过期时间” 2020-04-15 第二次正式发布。 本次更新说明如下: 更新操作步骤 优化相关描述 2019-06-27 第一次正式发布。
共100000条