深度学习之提前终止

循环次数内没有进一步改善时，算法就会终止。此过程在算法中有更正式的说明。这种策略被称为提前终止（early stopping）。这可能是深度学习中最常用的正则化形式。它的流行主要是因为有效性和简单性。

什么专业的学生接触深度学习更多呢

之前听说深度学习的只是很少的人，作为通信专业的学生，系里也只有几个几个老师研究深度学习，但近两年，越来越多的老师偏向这个方向，像研究电力计算机视觉，图像处理的老师都有涉及到深度学校方向，去年学校还联合多个专业开设了人工智能专业，横跨自动化、电子、电力和计算机四个专业。深度学习在那个专业应用前景更广泛呢

《深度学习入门》笔记 - 16

层，这种关系无法表达。同时可以通过增加隐藏层的数量和每个隐藏层的节点数，来处理更加复杂的问题。拥有多个隐藏层的神经网络就可以实现深度学习。而数量越多，就需要更多的技巧来训练并发挥这些隐藏层的作用。

《深度学习入门》笔记 - 18

网络的目的是建立输入层与输出层之间的关系，进而利用建立的关系得到预测值。通过增加隐藏层，神经网络可以找到输入层与输出层之间较复杂的关系。深度学习是拥有多个隐藏层的神经网络，在神经网络中，我们通过正向传播算法得到预测值，并通过反向传播算法得到参数梯度，然后利用梯度下降法更新参数，使

深度学习模型轻量化

硬件层加速。这个维度主要在AI硬件芯片层，目前有GPU、FPGA、ASIC等多种方案，各种TPU、NPU就是ASIC这种方案，通过专门为深度学习进行芯片定制，大大加速模型运行速度。

浅谈深度学习常用术语

深度学习常用术语· 样本（sample）或输入（input）或数据点（data point）：训练集中特定的实例。我们在上一章中看到的图像分类问题，每个图像都可以被称为样本、输入或数据点。· 预测（prediction）或输出（output）：由算法生成的值称为输出。例如，在先前

深度学习之任务 T

        机器学习可以让我们解决一些人为设计和实现固定程序很难解决的问题。从科学和哲学的角度来看，机器学习受到关注是因为提高我们对机器学习的认识需要提高我们对智能背后原理的理解。       如果考虑 “任务”比较正式的定义，那么学习的过程并不是任务。       在相对正式的

深度学习会逐步取代传统的机器学习吗？

近几年媒体的大肆针对深度学习的宣传及报道，而深度学习是被证明为最先进的性能最好的技术之一，那它会不会逐步取代传统的机器学习了？

深度学习之正则化

没有免费午餐定理暗示我们必须在特定任务上设计性能良好的机器学习算法。我们建立一组学习算法的偏好来达到这个要求。当这些偏好和我们希望算法解决的学习问题相吻合时，性能会更好。        至此，我们具体讨论修改学习算法的方法只有，通过增加或减少学习算法可选假设空间的函数来增加或减少模型的容量。

深度学习之maxout 单元

{(i − 1)k + 1, . . . , ik}。这提供了一种方法来学习对输入 x 空间中多个方向响应的分段线性函数。maxout 单元可以学习具有多达 k 段的分段线性的凸函数。maxout 单元因此可以视为学习激活函数本身而不仅仅是单元之间的关系。使用足够大的 k，maxout

通过多任务学习改进证据深度学习

边际似然损失，有可能导致目标预测不准确。本文的目标是通过解决梯度收缩问题来提高ENet的预测精度，同时保持其有效的不确定性估计。一个多任务学习(MTL)框架，被称为MT-ENet，被提出来实现这一目标。在MTL中，我们将Lipschitz修正均方误差(MSE)损失函数定义为另一种

深度学习之学习和纯优化有什么不同

时所预测的输出，pˆdata 是经验分布。监督学习中，y 是目标输出。在本章中，我们会介绍不带正则化的监督学习，L的变量是 f(x; θ) 和 y。不难将这种监督学习扩展成其他形式，如包括 θ 或者 x 作为参数，或是去掉参数 y，以发展不同形式的正则化或是无监督学习。

深度学习之验证集

测试集可以用来估计学习过程完成之后的学习器的泛化误差。其重点在于测试样本不能以任何形式参与到模型的选择，包括设定超参数。基于这个原因，测试集中的样本不能用于验证集。因此，我们总是从训练数据中构建验证集。特别地，我们将训练数据分成两个不相交的子集。其中一个用于学习参数。另一个作为验

深度学习笔记之度量模型深度的方式（二）

 由于并不总是清楚计算图的深度或概率模型图的深度哪一个是最有意义的，并且由于不同的人选择不同的最小元素集来构建相应的图，因此就像计算机程序的长度不存在单一的正确值一样，架构的深度也不存在单一的正确值。另外，也不存在模型多么深才能被修饰为 “深”的共识。但相比传统机器学习，深度学习研究的模型涉及更

《深度学习笔记》六

©为UGNet生成的分割效果，其中白色为前景部分，即海拉细胞，黑色为背景部分； (d)是对损失函数改进后使UGNet能够更好地学习细胞间的边界像素。 基于深度学习的图像分割在医疗领域中的应用越来越广泛，U-Net似乎就是其中的体现之一，U-Net在大量医学影像分割上的效果使得这种语义

深度学习之批量算法

机器学习算法和一般优化算法不同的一点是，机器学习算法的目标函数通常可以分解为训练样本上的求和。机器学习中的优化算法在计算参数的每一次更新时通常仅使用整个代价函数中一部分项来估计代价函数的期望值。另一个促使我们从小数目样本中获得梯度的统计估计的动机是训练集的冗余。在最坏的情况下，训练集中所有的

深度学习之动量举例

为什么要特别使用 −v(t) 和粘性阻力呢？部分原因是因为 −v(t) 在数学上的便利——速度的整数幂很容易处理。然而，其他物理系统具有基于速度的其他整数幂的其他类型的阻力。例如，颗粒通过空气时会受到正比于速度平方的湍流阻力，而颗粒沿着地面移动时会受到恒定大小的摩擦力。这些选择都

深度学习之交叉验证

数据集分成固定的训练集和固定的测试集后，若测试集的误差很小，这将是有问题的。一个小规模的测试集意味着平均测试误差估计的统计不确定性，使得很难判断算法 A 是否比算法 B 在给定的任务上做得更好。当数据集有十万计或者更多的样本时，这不会是一个严重的问题。当数据集太小时，也有替代方法

深度学习Sigmoid 激活函数

Sigmoid 函数的图像看起来像一个 S 形曲线。

深度学习GoogLeNet结构