已找到以下 10000 条记录
  • MPI,OpenMPI 与深度学习

    等等概念之间的关系。在前段时间为了能够更好地阅读 Horovod BytePS 的代码,从零开始学习了一番。Horovod 本身的实现并不十分复杂,但是它的部分工作其实是借助 MPI 来实现的。 这里抛砖引玉地介绍一下 MPI 与深度学习的关系,也留作最近业余时间学习过程的记录。近来与朋友交流,有感于之前

    作者: iamwkp0001
    发表时间: 2022-03-18 01:55:27
    465
    0
  • 深度学习》正则化笔记分享

    于输入权重之间的乘法操作,这样就有了一个优良的特性:使网络更倾向于使用所有输入特征,而不是严重依赖输入特征中某些小部分特征。最后需要注意在梯度下降参数更新的时候,使用L2正则化意味着所有的权重都以  向着0线性下降。L1正则化:对于每个我们都向目标函数增加一个。L1L2正则

    作者: 运气男孩
    1033
    3
  • 根据 DNA 序列预测「NGS测序深度」的深度学习模型

    序列预测「NGS测序深度」的深度学习模型一种可以根据 DNA 序列预测「NGS测序深度」的深度学习模型 莱斯大学的研究人员设计了一个深度学习模型,该模型可以根据DNA序列,预测Next-Generation Sequencing(NGS)的测序深度。 针对预测测序深度的有针对性的NG

    作者: QGS
    1670
    0
  • GitHub热门项目:生产级深度学习项目如何构建?

    只有在它能起作用的情况下,才扩展到更大的数据模型,并进行超参数调优。实验管理工具:Tensorboard:提供了机器学习实验所需的可视化工具。Losswise(用于机器学习的监控)Comet:让你可以跟踪机器学习项目上的代码、实验结果。Weights & Biases:通过

    作者: HWCloudAI
    发表时间: 2019-12-05 10:33:26
    9698
    0
  • 跟着MindSpore一起学习深度概率

    其分别对应的就是深度学习贝叶斯理论,也叫贝叶斯深度学习深度概率学习简单来说主要是这两方面的融合。l 深度学习深度概率学习的关系深度学习深度概率学习有什么关系呢?一图告诉你它们的联系。左边DNN代表的是深度神经网络,右边BNN代表的是贝叶斯神经网络,右图神经元连接的权重变

    作者: chengxiaoli
    1974
    0
  • 大V讲堂——双向深度学习

    以当今研究趋势由前馈学习重新转入双向对偶系统为出发点,从解码与编码、识别与重建、归纳与演绎、认知与求解等角度,我们将概括地介绍双向深度学习的历史、发展现状、应用场景,着重介绍双向深度学习理论、算法应用示例。

  • 深度学习之小批量举例

    小批量是随机抽取的这点也很重要。从一组样本中计算出梯度期望的无偏估计要求这些样本是独立的。我们也希望两个连续的梯度估计是互相独立的,因此两个连续的小批量样本也应该是彼此独立的。很多现实的数据集自然排列,从而使得连续的样本之间具有高度相关性。例如,假设我们有一个很长的血液样本测试结

    作者: 小强鼓掌
    738
    1
  • 深度学习之优化的理论限制

    些理论结果表明,我们为神经网络设计的任何优化算法都有性能限制 (Blum and Rivest, 1992; Judd, 1989; Wolpert and MacReady, 1997)。通常这些结果不影响神经网络在实践中的应用。一些理论结果仅适用于神经网络的单元输出离散值的情

    作者: 小强鼓掌
    428
    2
  • 执行横向联邦学习作业 - 可信智能计算服务 TICS

    执行横向联邦学习作业 功能介绍 执行横向联邦学习作业 调用方法 请参见如何调用API。 URI POST /v1/{project_id}/leagues/{league_id}/fl-jobs/{job_id}/execute 表1 路径参数 参数 是否必选 参数类型 描述 project_id

  • 创建纵向联邦学习作业 - 可信智能计算服务 TICS

    参数名 参数描述 XGBoost 学习率 控制权重更新的幅度,以及训练的速度精度。取值范围为0~1的小数。 树数量 定义XGBoost算法中决策树的数量,一个样本的预测值是多棵树预测值的加权。取值范围为1~50的整数。 树深度 定义每棵决策树的深度,根节点为第一层。取值范围为1~10的整数。

  • 深度学习笔记精度、复杂度对现实世界的冲击

            20 世纪 80 年代以来,深度学习提供精确识别预测的能力一直在提高。而且,深度学习持续成功地被应用于越来越广泛的实际问题中。        最早的深度模型被用来识别裁剪紧凑且非常小的图像中的单个对象 (Rumelhart et al., 1986d)。此后,神

    作者: 小强鼓掌
    624
    1
  • 深度学习之局部极小值

    对于实际中感兴趣的网络,是否存在大量代价很高的局部极小值,优化算法是否会碰到这些局部极小值,都是尚未解决的公开问题。多年来,大多数从业者认为局部极小值是困扰神经网络优化的常见问题。如今,情况有所变化。这个问题仍然是学术界的热点问题,但是学者们现在猜想,对于足够大的神经网络而言,大

    作者: 小强鼓掌
    440
    2
  • 深度学习笔记之病态条件数

           条件数表明函数相对于输入的微小变化而变化的快慢程度。输入被轻微扰动而迅速改变的函数对于科学计算来说是可能是有问题的,因为输入中的舍入误差可能导致输出的巨大变化。       考虑函数 f(x) = A−1x。当 A ∈ Rn×n 具有特征值分解时,其条件数为:   

    作者: 小强鼓掌
    732
    3
  • 深度学习之小批量算法

    比其他算法更敏感,这通常有两个可能原因。一个是它们使用了很难在少量样本上精确估计的信息,另一个是它们以放大采样误差的方式使用了信息。仅基于梯度 g的更新方法通常相对鲁棒,并能使用较小的批量获得成功,如 100。使用Hessian矩阵 H,计算如 H−1g 更新的二阶方法通常需要更大的批量,如

    作者: 小强鼓掌
    322
    1
  • 《深入理解AutoMLAutoDL:构建自动化机器学习深度学习平台》 —1.3 深度学习的崛起之路

    1.3 深度学习的崛起之路1.3.1 人脸识别的起源2012年,Alex Krizhevsky等人提出了AlexNet网络结构模型,以一种结构上轻巧简单但计算量上远超传统模型的方式轻易战胜了传统的机器学习模型,并凭借它在ImageNet图像分类挑战赛上赢得了冠军。自此,在图像领域

    作者: 华章计算机
    发表时间: 2019-11-15 15:06:42
    4104
    0
  • 【云驻共创】深度学习概览

    带着这些学习目标,让我们一起学习深度学习的内容吧~ 目录 深度学习简介 训练法则 正则化 优化器 神经网络类型 常见问题 1. 深度学习简介 首先,我们看下如下图传统机器学习深度学习的一种比较。众所周知深度学习是属于机器学习,但是由于大多数深度学习的样本是没有标签的,而且在神

    作者: 府学路18号车神
    发表时间: 2022-05-15 11:21:35
    1281
    0
  • 大数据分析学习与微认证

    大数据分析学习与微认证 通过系列大数据分析与应用的在线课程学习,加上对大数据应用学习的在线动手实验环境提供,一站式在线学练考,零基础学习前沿技术,考取权威证书。 大数据分析学习课程与认证 课程结合实践,借助配套的实验环境,一站式学练考,轻松Get新知识 随着大数据、云计算的发展,

  • 获取横向联邦学习作业详情 - 可信智能计算服务 TICS

    获取横向联邦学习作业详情 功能介绍 获取横向联邦学习作业详情 调用方法 请参见如何调用API。 URI GET /v1/{project_id}/leagues/{league_id}/fl-jobs/{job_id} 表1 路径参数 参数 是否必选 参数类型 描述 project_id

  • 基于深度学习的标签分布学习介绍

    背景 学习的本质是构建从实例到标签的映射关系,但有时候标签存在模糊性,即一个实例不一定映射到一个标签,现有的学习范式中,主要存在两种形式——单标签学习多标签学习。单标签学习是指给一个实例分配一个标签,多标签学习是指给一个实例分配多个标签。 以上两种形式都在回答一个问题:“哪个

    作者: Tianyi_Li
    发表时间: 2022-01-10 16:10:31
    3077
    0
  • MATLAB深度学习 2019

    作者: tsinghuazhuoqing
    发表时间: 2021-12-25 17:27:45
    612
    0