深度学习的学习路线

经网络的基本结构和原理对于深度学习的学习非常重要。 推荐教程： 《神经网络与深度学习》（Neural Networks and Deep Learning）（英）Michael Nielsen 著 三、进阶学习 1.深度学习模型 深度学习模型是深度学习中的核心，包括卷积神经网络、

深度学习之贝叶斯统计

的已知知识表示成先验概率分布 (prior probability distribution)，p(θ)（有时简单地称为 “先验”）。一般而言，机器学习实践者会选择一个相当宽泛的（即，高熵的）先验分布，反映在观测到任何数据前参数 θ 的高度不确定性。例如，我们可能会假设先验 θ 在有限区间中均匀分布。许多先验偏好于“更简单”

深度学习: 学习率 (learning rate)

       深度学习: 学习率 (learning rate)    作者：liulina603        致敬 原文：https://blog.csdn.net/liulina603/article/details/80604385   深度学习: 学习率 (learning

[深度学习]测距

系列内容深度学习CNN 文章目录 ADAS摄像头成像需具备的两大特点单目镜头的测距原理双目镜头的测距原理 ADAS摄像头成像需具备的两大特点 是要看得足够远 看的越远就能有更加充裕的时间做出判断和反应，从而 避免或者降低事故发生造成的损失。 是要求高动态

深度学习之动量举例

为什么要特别使用 −v(t) 和粘性阻力呢？部分原因是因为 −v(t) 在数学上的便利——速度的整数幂很容易处理。然而，其他物理系统具有基于速度的其他整数幂的其他类型的阻力。例如，颗粒通过空气时会受到正比于速度平方的湍流阻力，而颗粒沿着地面移动时会受到恒定大小的摩擦力。这些选择都

深度学习之计算图

为了更精确地描述反向传播算法，使用更精确的计算图（computational graph）语言是很有帮助的。将计算形式化为图形的方法有很多。这里，我们使用图中的每一个节点来表示一个变量。变量可以是标量、向量、矩阵、张量、或者甚至是另一类型的变量。为了形式化我们的图形，我们还需引入

深度学习之交叉验证

数据集分成固定的训练集和固定的测试集后，若测试集的误差很小，这将是有问题的。一个小规模的测试集意味着平均测试误差估计的统计不确定性，使得很难判断算法 A 是否比算法 B 在给定的任务上做得更好。当数据集有十万计或者更多的样本时，这不会是一个严重的问题。当数据集太小时，也有替代方法

深度学习之交叉验证

        将数据集分成固定的训练集和固定的测试集后，若测试集的误差很小，这将是有问题的。一个小规模的测试集意味着平均测试误差估计的统计不确定性，使得很难判断算法 A 是否比算法 B 在给定的任务上做得更好。        当数据集有十万计或者更多的样本时，这不会是一个严重的

深度学习Sigmoid 激活函数

Sigmoid 函数的图像看起来像一个 S 形曲线。

深度学习GoogLeNet结构

《深度学习入门》笔记 - 02

最常用的矩阵运算是矩阵的转置。转置就像是翻转。就像是一个扑克牌，原来是竖着拿的，把它变成翻面横着拿了。 ![image.png](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/20227/27/1658883526687508822

【深度学习】嘿马深度学习笔记第1篇：深度学习基本概要【附代码文档】

掌握神经网络图像相关案例 深度学习介绍 1.1 深度学习与机器学习的区别 学习目标 目标 知道深度学习与机器学习的区别 应用 无 1.1.1 区别 1.1.1.1 特征提取方面 机器学习的特征工程步骤是要靠手动完成的，而且需要大量领域专业知识 深度学习通常由多个层组成

动手学深度学习：优化与深度学习的关系

Smola）人工智能机器学习深度学习领域重磅教程图书亚马逊科学家作品动手学深度学习的全新模式，原理与实战紧密结合目前市面上有关深度学习介绍的书籍大多可分两类，一类侧重方法介绍，另一类侧重实践和深度学习工具的介绍。本书同时覆盖方法和实践。本书不仅从数学的角度阐述深度学习的技术与应用，还包

《深度学习入门》笔记 - 03

接下来是概率论的一些基本的概念。 `随机变量`就是一个取值不确定的变量。 这个在工作生活中应用的实在是太广泛了。比如老板问你这件事情明天能不能搞完？一般情况下，你的回答可能就是一个随机变量。 随机变量可以分为两种类型：连续型和离散型。 `随机变量的分布`用来描述随机变量出现某种结果的可能性。可以用一些分布函数来表示。

深度学习之切面距离

一个利用流形假设的早期尝试是切面距离（tangent distance）算法 (Simard et al., 1993, 1998)。它是一种非参数的最近邻算法，其中使用的度量不是通用的欧几里德距离，而是根据邻近流形关于聚集概率的知识导出的。这个算法假设我们尝试分类的样本和同一流

《深度学习入门》笔记 - 19

如果没有激活函数，神经网络会变成什么呢？ 答案是如果没有激活函数，那么无论神经网络的结构有多复杂，它都将退化为一个线性模型。现实的回归问题或者分类问题的决策边界通常都是复杂且非线性的。这要求模型具有产生复杂的非线性决策边界的能力，在这一点上激活函数在神经网络中扮演了非常重要的角色

深度学习之参数共享

这种方法由Lasserre et al. (2006) 提出，正则化一个模型（监督模式下训练的分类器）的参数，使其接近另一个无监督模式下训练的模型（捕捉观察到的输入数据的分布）的参数。这种构造架构使得许多分类模型中的参数能与之对应的无监督模型的参数匹配。参数范数惩罚是正则化参数使

深度学习之参数共享

这种方法由Lasserre et al. (2006) 提出，正则化一个模型（监督模式下训练的分类器）的参数，使其接近另一个无监督模式下训练的模型（捕捉观察到的输入数据的分布）的参数。这种构造架构使得许多分类模型中的参数能与之对应的无监督模型的参数匹配。参数范数惩罚是正则化参数使

深度学习笔记之矩阵

        矩阵是二维数组，其中的每一个元素被两个索引而非一个所确定。我们通常会赋予矩阵粗体的大写变量名称，比如A。如果一个实数矩阵高度为m，宽度为n，那么我们说A ∈ R m*n。我们在表示矩阵中的元素时，通常使用其名称以不加粗的斜体形式，索引用逗号间隔。比如，A1;1 表示A

《深度学习入门》笔记 - 23

在实际中训练误差常常偏小, 不是模型真实误差的好的估计值。这是因为如果考试题目是我们做过的作业题，那么我们更容易得高分。所以我们要有一些测试数据是不要参加模型训练的，需要搁置在一旁，直到模型完全建立好，再用来计算模型的测试误差。模型的预测效果较差，经常是由于两类问题导致的。那就是