内容选择
全部
内容选择
内容分类
  • 学堂
  • 博客
  • 论坛
  • 开发服务
  • 开发工具
  • 直播
  • 视频
  • 用户
时间
  • 一周
  • 一个月
  • 三个月
  • 分布式训练与保存】如何合并分布式保存的模型?

    【功能模块】分布式保存的模型转存【操作步骤&问题现象】1、前提:代码修改自PanGu-Alpha,训练中是采用了数据并行、模型并行,并开启了优化器并行,因此所有保存的CheckPoint才是一个完整的模型。我们想把这些ckpt合并成一个完整的权重文件。2、我们看到官方文档会有一份

    作者: 根源式
    841
    6
  • Git 分布式版本控制系统

    目录 文章目录 目录Git 分布式版本控制系统Git 的基本概念Git 的仓库结构Git 的核心对象Git 的数据结构Git Flow参考文档 Git 分布式版本控制系统 Git 是一个免费的、开源的分布式版本控制系统(Version Control S

    作者: 云物互联
    发表时间: 2021-08-05 17:30:53
    1007
    0
  • GaussDB(DWS)分布式Join原理浅析

    单机场景下两表关联(join)比较简单,但是分布式场景下,由于数据分布在不同的Datanode(DN),DWS是如何对两表进行Join的呢?为什么有时候两表关联时会出现Stream算子,有时候没有呢?接下来,本文简单介绍下GaussDB(DWS)在分布式下的两表Join的实现方法。 几种典型场景

    作者: Arrow0lf
    发表时间: 2021-06-01 08:43:57
    2790
    0
  • 分布式数据存储倾斜快速检测

    nothing分布式架构下的重要难题,它破坏了MPP架构中各个节点对等的要求,导致倾斜节点所需存储及计算资源都远大于其他节点,进而导致性能下降(木桶效应)、full disk或oom等严重问题。技术背景目前各类分布式数据库厂商都有提供存储倾斜的检测工具,常用方法主要有计算表的COUNT

    作者: 匿名用户群体
    5472
    3
  • 分布式系统资料推荐

    定价: 149.00元 装帧: 平装 ISBN: 9787302381242 国内存储不多的书籍之一, 比较杂散, 入门了解 <b>2.大规模分布式存储系统</b> 作者: <a href=https://book.douban.com/search/%E6%9D%A8%E4%BC%A0%E8%BE%89>杨传辉</a>

    作者: alex
    5006
    0
  • 计算技术 — 数据中心基础架构变迁史

    文章目录 目录 数据中心基础架构变迁史 1997-2007,第一波浪潮:裸机服务器基础架构 2005-至今,第二波浪潮:虚拟化基础架构 / 计算 2010-至今,第三波浪潮:超融合基础架构 (HCI)/ 私有 2014-至今,第四波浪潮:应用定义基础架构(ADI)/

    作者: 云物互联
    发表时间: 2021-08-06 14:30:49
    1292
    0
  • Pytorch 分布式训练迁移

    什么是分布式训练?模型复杂,或者数据量太大,都有可能超过单一AI加速卡的显存大小,导致无法使用单一AI加速卡进行训练加速,所以需要整合多个AI加速卡进行分布式训练,分布式训练一般又分为模型并行与数据并行。模型并行:模型太大,单一AI加速卡内存不足,一个模型划分为多个子模块,不同

    作者: carvaee
    2292
    0
  • 【MindSpore】【分布式并行】裸机分布式推理device报import错误

    context并未出错,怀疑是各个device上环境变量设置出错,查看env0.log如下:可以看到python路径和相关库的路径都在其中,在本环境下执行MindSpore分布式训练样例pytest成功,但执行python就会出现此情况。为什么会出现这种情况?附上执行脚本截图:代码部分截图:

    作者: yd_239349429
    93
    3
  • 分布式数据库目标

    发了一系列新的分布式问题:分布式sql:与单机SQL兼容性支持的分片模式分布式事务:事务隔离级别事务ACID特性分布式负载均衡负载均衡度数据重分布水平分布式管理集权管理工具集群监控工具Gauss100-OLTP分布版本优秀的sharding架构,需要解决传统挑战,还要完美应对引入

    作者: GaussDBA
    2765
    0
  • 计算复习知识总结(很有用,全是干货)106.最常见的分布式对象是:

    分布式动态对象分布式命名对象

    作者: huohaohao
    412
    0
  • wcf 分布式 --- 官网入门介绍

    官方入门教程 https://docs.microsoft.com/en-us/dotnet/framework/wcf/getting-started-tutorial 基本介绍 https://docs.microsoft.co

    作者: ksh1998
    发表时间: 2021-12-25 16:17:16
    601
    0
  • 移动计算分布式数据缓存服务,实现快速可靠的跨区域多活复制

    本文介绍了一种在移动计算云中扩展分布式数据缓存服务以实现跨区域多活复制的方案。阐述如何保证网络脑裂恢复后区域间数据的一致性,提出了一种跨区域副本数据同步的方法,能够克服在严重网络脑裂下,缓存数据操作的复制无法保证因果关系顺序的情况。本文使用的是最流行的移动计算分布式数据缓存服务&m

    作者: 华为云PaaS服务小智
    发表时间: 2021-11-27 01:09:42
    3200
    0
  • 分布式进阶(十七)分布式设计介绍

    提升硬件性能来提高系统性能的时代已结束,分布式开发的时代实际上早已悄悄地成为了时代的主流,吵得很热的计算实际上只是包装在分布式之外的商业概念,很多开发者(包括我)都想加入研究计算这个潮流,在google上通过“计算”这个关键词来查询资料,查到的都是些概念性或商业性的宣传资料

    作者: SHQ5785
    发表时间: 2020-12-29 23:59:57
    4110
    0
  • Hive分布式数据仓库(2)

    timizer(优化器)和Executor(执行器),它们的作用是对Hive SQL语句进行解析、编译优化、生成执行计划,然后调用底层MR计算框架。(2) MetaStore组件: 该组件是Hive用来负责管理元数据的组件。Hive的元数据存储在关系型数据库中,其支持的关系型数据

    作者: 胡辣汤
    1169
    0
  • 如何建设数据中心

    盗窃、中断等。如果你想建立一个数据中心,有几个因素需要考虑。我们汇总了以下最重要的内容。 构建数据中心时的关键注意事项 在我们查看构建数据中心时要采取的步骤之前,了解不同类型的数据中心非常重要。这样,您将权衡您的选择以做出更好的决策。四种类型的数据中心是: 企业数据中心托管数据中心托管服务数据中心云数据中心

    作者: wljslmz
    发表时间: 2022-07-27 14:25:10
    204
    0
  • 全面解读计算、大数据、AI 对数据中心的影响

    "对"D"的影响在网络全面化的趋势下,数据中心必须全面化。何宝宏认为,"数据中心必须是软件定义的,必须模块化、开放以及标准化。"今天,已经不会有人去强调的重要性,也因为已经成为我们生活中的一部分,并且比重将越来越大。在何宝宏看来,化是数据中心的必然演进方向,不过目前业界

    作者: 当年明月0902
    发表时间: 2017-12-29 14:15:08
    12356
    0
  • SpringCloud Config分布式配置中心

    Config分布式配置中心) 笔记来源于周阳老师的SpringCloud视频,本人手敲总结出来的。 我去年发布过的文章: Spring Cloud Config Bus集成webhooks实现自动刷新 1、SpringCloud Config概述 1.1 分布式系统面临的配置问题

    作者: CodeLeader
    发表时间: 2023-01-09 10:36:52
    129
    0
  • 分布式表示

    象身份的概念。改善这种情况的方法之一是使用分布式表示,即用三个神经元描述颜色,三个神经元描述对象身份。这仅仅需要6个神经元而不是9个,并且描述红色的神经元能够从汽车、卡车和鸟类的图像中学习红色,而不仅仅是从一个特定类别的图像中学习。分布式表示的概念是本书的核心,我们将在第十五章中更加详细地描述。

    作者: G-washington
    1050
    1
  • 计算技术系列丛书 云原生分布式存储基石: etcd深入解析》—2.3.5分布式

    2.3.5 分布式锁 因为etcd使用Raft算法保持了数据的强一致性,某次操作存储到集群中的值就必然是全局一致的,所以etcd很容易实现分布式锁。锁服务包含两种使用方式,一是保持独占,二是控制时序。 1.保持独占 保持独占即所有试图获取锁的用户最终只有一个可以得到。 etcd为

    作者: 华章计算机
    发表时间: 2019-06-04 14:14:33
    5739
    0
  • 数据中心网络与SDN:技术架构与实现》——2.4 集中式控制——与分布式的哲学之争

    统一的业界标准。因此在笔者看来,SDN开放性的痛处在于重构行业的利益分配,而集中式的纠结则在于与分布式长久不衰的哲学之争。集中式与分布式之争,其实是一个广泛而深刻的命题,小到家庭公司到社会国家,每个文明系统的组织机制都会面临着在二者之间的抉择,管制带来的是效率与统一,而民主意味

    作者: 华章计算机
    发表时间: 2019-06-06 14:19:27
    10890
    0