文本生成与深度变分GAN

论文《Text Generation with Deep Variational GAN》阐述如下：生成真实序列是许多机器学习应用的中心任务。在构建序列生成任务的深度生成模型方面，最近取得了相当大的进展。然而，模式崩溃的问题仍然是当前模型的主要问题。在本文中，我们提出了一个基于g

《深度学习入门》笔记 - 16

不通过隐藏层，这种关系无法表达。同时可以通过增加隐藏层的数量和每个隐藏层的节点数，来处理更加复杂的问题。拥有多个隐藏层的神经网络就可以实现深度学习。而数量越多，就需要更多的技巧来训练并发挥这些隐藏层的作用。

深度学习入门之前置知识

name。实例变量是存储在各个示例中的变量。python中可以像self.name这样，通过在self后面添加属性名来生成或访问实例变量。 numpy 在深度学习实现中，经常出现矩阵和数组的计算，numpy.array提供了很多便捷的方法 导入numpy numpy是外部库，，首先要导入 import

浅谈深度学习常用术语

深度学习常用术语· 样本（sample）或输入（input）或数据点（data point）：训练集中特定的实例。我们在上一章中看到的图像分类问题，每个图像都可以被称为样本、输入或数据点。· 预测（prediction）或输出（output）：由算法生成的值称为输出。例如，在先前

Deep SORT —— YOLO V4 目标检测跟踪

com/yehengchen/Object-Detection-and-Tracking) - [Deep Sort](https://github.com/nwojke/deep_sort) - [关于 Deep Sort 的一些理解](https://zhuanlan.zhihu.com/p/80764724)

深度学习训练过程

的随机初始化初值过程，由于第一步不是随机初始化，而是通过学习输入数据的结构得到的，因而这个初值更接近全局最优，从而能够取得更好的效果。所以深度学习的良好效果在很大程度上归功于第一步的特征学习的过程。 

深度学习之信息论

       信息论是应用数学的一个分支，主要研究的是对一个信号能够提供信息的多少进行量化。它最初被发明是用来研究在一个含有噪声的信道上用离散的字母表来发送消息，例如通过无线电传输来通信。在这种情况下，信息论告诉我们如何设计最优编码，以及计算从一个特定的概率分布上采样得到、使用多

深度学习之决策树

        决策树 (decision tree)，及其变种是一类将输入空间分成不同的区域，每个区域有独立的参数的算法 (Breiman et al., 1984)。如图5.7所示，决策树的每个节点都与输入空间的一个区域相关联，并且内部节点继续将区域分成子节点下的子区域（通常

深度学习之快速 Dropout

使用Dropout训练时的随机性不是这个方法成功的必要条件。它仅仅是近似所有子模型总和的一个方法。Wang and Manning (2013) 导出了近似这种边缘分布的解析解。他们的近似被称为快速 Dropout（fast dropout），减小梯度计算中的随机性而获得更快的收

深度学习之贝叶斯统计

        频率派的视角是真实参数 θ 是未知的定值，而点估计θˆ 是考虑数据集上函数（可以看作是随机的）的随机变量。        贝叶斯统计的视角完全不同。贝叶斯用概率反映知识状态的确定性程度。数据集能够直接观测到，因此不是随机的。另一方面，真实参数 θ 是未知或不确定的，因此可以表示成随机变量。 

深度学习之灾难遗忘

每个 maxout 单元现在由 k 个权重向量来参数化，而不仅仅是一个，所以 maxout单元通常比整流线性单元需要更多的正则化。如果训练集很大并且每个单元的块数保持很低的话，它们可以在没有正则化的情况下工作得不错 (Cai et al., 2013)。maxout 单元还有一些

深度学习之长期依赖

当计算图变得极深时，神经网络优化算法会面临的另外一个难题就是长期依赖问题——由于变深的结构使模型丧失了学习到先前信息的能力，让优化变得极其困难。深层的计算图不仅存在于前馈网络，还存在于之后介绍的循环网络中（在第十章中描述）。因为循环网络要在很长时间序列的各个时刻重复应用相同操作来

深度学习之对抗样本

Goodfellow et al. (2014b) 表明，这些对抗样本的主要原因之一是过度线性。神经网络主要是基于线性块构建的。因此在一些实验中，它们实现的整体函数被证明是高度线性的。这些线性函数很容易优化。不幸的是，如果一个线性函数具有许多输入，那么它的值可以非常迅速地改变。如果我们用

《深度学习入门》笔记 - 04

然后就是Python的介绍。包括常见的数据类型，基本算术运算，比较和布尔运算，如何载入额外的模块和包。 基本数据结构有列表、元组、字典和集合。控制结构，内建函数和自定义函数。 然后介绍numpy库，他可以实现快速的算数运算，特别是矩阵运算，运算内部是通过C语言实现的，所以比较快。

深度学习之噪声鲁棒性

作为数据集增强策略。对于某些模型而言，向输入添加方差极小的噪声等价于对权重施加范数惩罚 (Bishop, 1995a,b)。在一般情况下，噪声注入远比简单地收缩参数强大，特别是噪声被添加到隐藏单元时会更加强大。向隐藏单元添加噪声是值得单独讨论重要的话题； Dropout 算法是这

深度学习之任务分类

深度学习之Dropout启发

Dropout启发其他以随机方法训练指数量级的共享权重的集成。DropConnect是Dropout的一个特殊情况，其中一个标量权重和单个隐藏单元状态之间的每个乘积被认为是可以丢弃的一个单元 (Wan et al., 2013)。随机池化是构造卷积神经网络集成的一种随机池化的形式

《深度学习入门》笔记 - 17

正向传播（Forward Propagation FP）算法指输入值通过神经网络得到输出值的方法。正向传播算法的计算图如下：$sigma$表示sigmoid函数，也就是激活函数。包含损失函数的计算图如下：得到$l_2$，通过$l$计算损失函数L，其中$l$表示求解损失函数的运算。

深度学习之快速 Dropout

使用Dropout训练时的随机性不是这个方法成功的必要条件。它仅仅是近似所有子模型总和的一个方法。Wang and Manning (2013) 导出了近似这种边缘分布的解析解。他们的近似被称为快速 Dropout（fast dropout），减小梯度计算中的随机性而获得更快的收

《深度学习入门》笔记 - 28

线性回归模型相当于下面的简单神经网络模型，它没有隐藏层、输出层只有1个节点，激活函数是线性函数。使用 tf.keras.models.Sequential()构建模型使用 model.compile() 设置优化方法、损失函数、评价指标 （损失函数的值即 训练误差；评价指标的值即