内容选择
全部
内容选择
内容分类
  • 学堂
  • 博客
  • 论坛
  • 开发服务
  • 开发工具
  • 直播
  • 视频
  • 用户
时间
  • 一周
  • 一个月
  • 三个月
  • 分布式系统设计理论之一致性哈希

    分布式系统设计理论之一致性哈希 主要参考围绕这篇论文讲解:Consistent Hashing 1 问题引入 什么是一致性哈希?为什么要用一致性哈希? 2 一致性哈希算法出现之前的分布式系统设计 例如系统需要构建分布式缓存,多个节点分别部署而形成的一个分布式集群,当有

    作者: Barry Yan
    发表时间: 2022-10-16 14:05:42
    144
    0
  • 分布式缓存 DCS

    分布式缓存 DCS 华为云分布式缓存服务(Distributed Cache Service,简称DCS)是华为云提供的一款内存数据库服务,兼容了Redis内存数据库引擎,提供即开即用、安全可靠、弹性扩容、便捷管理的在线分布式缓存能力,满足用户高并发及数据快速访问的业

  • 分布式缓存DCS

    分布式缓存DCS 华为云分布式缓存服务(Distributed Cache Service,简称DCS)是华为云提供的一款内存数据库服务,兼容了Redis内存数据库引擎,提供即开即用、安全可靠、弹性扩容、便捷管理的在线分布式缓存能力,满足用户高并发及数据快速访问的业务

  • 分布式缓存Redis应用场景解析

    并且运维Redis也比之前更易出现差错。而华为云分布式缓存Redis就很好地解决了自建Redis的一些问题,应用场景也十分丰富。比如很多大型电商网站、视频网站游戏应用等,存在大规模数据访问,对数据查询效率要求高。使用华为云分布式缓存Redis服务可实现页面缓存、应用缓存、状态缓

    作者: 牵小柴散步
    发表时间: 2018-05-29 20:02:20
    8357
    2
  • 【mindspore】【分布式训练】失败

    使用mindspore 数据并行模式训练。报了下面的错误,麻烦帮忙看看怎么定位排查问题

    作者: 所有问题请发新帖咨询
    3390
    6
  • MindSpore分布式并行训练—分布式训练通信方法(四)AllReduce

    Note: AllReduce 的操作目前不支持“prod”。 张量在集合的所有过程中必须具有相同的形状格式。 Args: op (str): 指定用于逐元素归约的操作,如总和、最大值最小值。 默认值:ReduceOp.SUM。 group (str): 要处理的通信组。 默认值:“hccl_world_group”。

    作者: 凯歌含光
    2855
    0
  • 分布式锁的实现方式

    Java中的锁主要包括synchronized锁JUC包中的锁,这些锁都是针对单个JVM实例上的锁,对于分布式环境如果我们需要加锁就显得无能为力。在单个JVM实例上,锁的竞争者通常是一些不同的线程,而在分布式环境中,锁的竞争者通常是一些不同的线程或者进程。目前主要有三种方式实现分布式系统中的锁方式:分布式锁的实现方

    作者: 清雨小竹
    34
    0
  • 分布式minio搭建指南

    分布式Minio可以让你将多块硬盘(甚至在不同的机器上)组成一个对象存储服务。由于硬盘分布在不同的节点上,分布式Minio避免了单点故障。 分布式Minio有什么好处? 在大数据领域,通常的设计理念都是无中心分布式。Minio分布式模式可以帮助你搭建一个高可用的对象存

    作者: 从大数据到人工智能
    发表时间: 2022-03-27 16:32:52
    1047
    0
  • MindSpore分布式并行训练—分布式训练通信方法(二)AllGather

    AllGather - Gather `Gather` 从好多进程里面收集数据到一个进程上面。这个机制对很多平行算法很有用,比如并行的排序搜索。下图是这个算法的一个示例。 ![](https://bbs-img.huaweicloud.com/data/forums/attac

    作者: 凯歌含光
    2649
    0
  • MindSpore进行分布式训练

    分布式并行计算,在计算机领域是非常重要的概念。对于一些行外人来说,总觉得这是一些很简单的工作,但是如果我们纵观计算机的硬件发展史,从CPU到GPU,再到TPU华为的昇腾(NPU),乃至当下的热点量子计算机(QPU),其实就是一个分布式与并行计算的发展史。从简单的数据并行,到算

    作者: 多米诺的古牌
    448
    0
  • 分布式消息服务详述?

    <br /> <p>分布式消息服务(Distributed Message Service,简称DMS)是一项基于高可用分布式集群技术的消息中间件服务,提供了可靠且可扩展的托管消息队列,用于收发消息存储消息。</p><align=center>图1 DMS的消息生产消费的示意图</

    作者: 云彩飞扬
    2944
    0
  • 分布式进阶(十四)分布式开发学习感触

    经过一段时间的分布式学习,自己在此过程中受益匪浅。几点感触总结如下: 1.在做较大或生疏系统的时候,一定先要将系统的架构图设计出来,架构图要力求做到尽可能的详尽(包括其用到的各种技术,数据传输方式等等)。做到这样才能在后期的系统开发中显得游刃有余。软件工程的开发思想其实还是很重要的,自己对这一点也颇有感触。

    作者: SHQ5785
    发表时间: 2020-12-29 17:02:36
    1527
    0
  • Ceph分布式存储扩容指南

    介绍Ceph是一个统一的分布式存储系统,设计初衷是提供较好的性能、可靠性可扩展性。它支持用3种方式存储数据,分别为:对象存储、块设备存储、文件系统存储。Ceph项目最早起源于Sage就读博士期间的工作(最早的成果于2004年发表),并随后贡献给开源社区。在经过了数年的发展之后,

    作者: 肖邦的忧伤
    8536
    1
  • 什么是分布式缓存服务

    2018-1-31 11:09 编辑 <br /> <p>分布式缓存服务(Distributed Cache Service,简称DCS)为您提供即开即用、安全可靠、弹性扩容、便捷管理的在线分布式缓存能力,兼容RedisMemcached,提供单机、主备、集群等丰富的实例类型,

    作者: 云彩飞扬
    5602
    0
  • 分布式并行模块总结

    # 分布式并行模块 ### 1、分布式并行训练的优势 在深度学习发展的过程中为了更好的网络学习能力泛化能力,数据集模型规模都呈指数式提高。在NLP领域随着Transformer层的堆叠,模型的精度确实有所提高,但与此同时,模型参数所需的内存很快达到了性能上线。在人脸识别领域,

    作者: Besssie_Lee
    4736
    2
  • 【MindSpore】【分布式】添加自动化分布式运行字段后报错

    在不启用如下分布式的字段时,训练任务正常运行: ```python context.set_auto_parallel_context(parallel_mode=ParallelMode.AUTO_PARALLEL, gradients_mean=False) ``` 但是在启

    作者: 编程大赛最佳伴侣
    5500
    11
  • 【atlas800-9000-mindspore】【分布式训练】分布式训练退出,Device 0 is occupied

    910_mindspore:v0.5.0-ubuntu-py37-arm64 ``` # mindspore training ## 分布式训练 ### rank_table_2pcs.json ```json {     "board_id": "0x0020",     "chip_info": "910"

    作者: 软星包子
    4418
    8
  • 分布式

    此时jdk提供的锁就不能再使用了。于是乎就有了分布式锁。 本文介绍常见的几种可以使用的生产的分布式锁 本文面向有开发经验的同学,所以场景就不赘述,直接上干货 # 一、分布式锁具有的品格 基本的加锁释放锁具备锁失效机制,防止死锁非阻塞机制高性能高可用 # 二、思考一下如何自己实现

    作者: 西魏陶渊明
    发表时间: 2022-09-24 19:24:07
    103
    0
  • 分布式消息服务——消息是什么?

    </align> [*]消息顺序<align=left>DMS支持“普通队列”“有序队列”两种类型。</align><align=left>普通队列通过分布式处理,支持更高的并发,但由于队列的分布式特性,DMS无法保证能够以接收消息的精确顺序进行消费。如果用户要求保持顺序,建议

    作者: 云彩飞扬
    8806
    0
  • 分布式散列表

    简介    分布式散列表的节点类似散列表中的存储位置。分布式散列表通常是为了拥有极大节点数量的系统,而且在系统的节点常常会加入或离开(例如网络断线)而设计的。在一个结构性的延展网络(overlay network)中,参加的节点需要与系统中一小部份的节点沟通,这也需要使用分布式散列表。

    作者: scu-w
    974
    1