《深度学习应用开发》学习笔记汇总

式的定义之外，用类比的方法讲的非常的简单易懂 有监督学习，无监督学习，半监督学习，强化学习。强化学习说的非常厉害，适用于下棋和游戏这一类领域，基本逻辑是正确就奖励，错误就惩罚来做一个学习。 那么无监督学习的典型应用模式是什么呢？说出来之后你就会觉得无监督学习没有那么神秘了，那就

【转载】传统机器学习与深度学习

分享适合科学研究深度学习模型——处理序列数据

发挥重要作用的是Attention技术。    递归神经网络模型的示意图问答也能够作为处理序列数据的一个基准，此类神经网络模型的标准是：一段文字（作为上下文）和一个具体的问题作为输入，回答的段落作为输出。值得一提的是，问答模型要求的神经网络模型必须能够理解不同序列集的相关性和相似性。 

深度学习——常用评价指标

曲线下面的面积，通常来说一个越好的分类器，AP值越高。　　mAP是多个类别AP的平均值。这个mean的意思是对每个类的AP再求平均，得到的就是mAP的值，mAP的大小一定在[0,1]区间，越大越好。该指标是目标检测算法中最重要的一个。　　在正样本非常少的情况下，PR表现的效果会更好。　　5、

深度学习的学习路线

实战项目 深度学习是一门实践性很强的学科，需要通过实战项目来加深对理论知识的理解和应用。可以选择一些开源的深度学习项目进行学习和实践，如ImageNet、CIFAR-10等。 2.比赛竞赛 参加深度学习相关的比赛竞赛，可以锻炼自己的深度学习能力和实战经验，也可以与其他深度学习爱好者交

深度学习笔记之信息论

 信息论是应用数学的一个分支，主要研究的是对一个信号能够提供信息的多少进行量化。它最初被发明是用来研究在一个含有噪声的信道上用离散的字母表来发送消息，例如通过无线电传输来通信。在这种情况下，信息论告诉我们如何设计最优编码，以及计算从一个特定的概率分布上采样得到、使用多种不同的编码机制的消息的

深度学习基本概念

learning，DL） 表示学习的理想很丰满，但实际中人们发现从数据的原始形式直接学得数据表示这件事很难。深度学习是目前最成功的表示学习方法，因此，目前国际表示学习大会（ICLR）的绝大部分论文都是关于深度学习的。深度学习是把表示学习的任务划分成几个小目标，先从数据的原始形式中先学习比较低级的表示，再

深度学习模型编译技术

brary的方式供用户使用，将模型的IR转化为引擎内部的IR表示，然后映射绑定到对应硬件的算子实现，最后使用引擎的runtime来启动推理计算。基于自家的处理器和高度定制的算子实现，推理引擎能够达到非常极致的优化性能。但是推理引擎的架构决定了不能很好的覆盖所有原生框架的算子（模型

《深度学习笔记》的笔记（五）：解决退化问题

退化问题不解决，深度学习就无法Go Deeper。于是残差网络ResNet提出来了。要理解残差网络，就要理解残差块(Residual Block)这个结构，因为残差块是残差网络的基本组成部分。之前的各种卷积网络结构(LeNet5、AlexNet、VGG)，通常结构就是卷积池化再卷

【转载】深度学习与人脑

深度学习是机器学习的一个子集，它通过接收大量数据并试图从中学习来模拟人脑。在IBM对该术语的定义中，深度学习使系统能够“聚集数据，并以令人难以置信的准确性做出预测。” 然而，尽管深度学习令人难以置信，但IBM尖锐地指出，它无法触及人脑处理和学习信息的能力。深度学习和 DNN（深度

深度学习和层级结构

语言有着层级结构，大的结构部件是由小部件递归构成的。但是，当前大多数基于深度学习的语言模型都将句子视为词的序列。在遇到陌生的句子结构时，循环神经网络（RNN）无法系统地展示、扩展句子的递归结构，深度学习学到的各组特征之间的关联是平面的，没有层级关系，那么请问层级关系是重要吗，在哪些方面能够体现

深度学习笔记之支持向量机

为负时，支持向量机预测属于负类。支持向量机的一个重要创新是核技巧 (kernel trick)。核策略观察到许多机器学习算法都可以写成样本间点积的形式。例如，支持向量机中的线性函数可以重写为其中，x(i) 是训练样本，α 是系数向量。学习算法重写为这种形式允许我们将 x替换为特征函数 φ(x) 的输出，点积替换为被称为核函数

AI前沿——深度学习技术

构市值不断改善自身的性能的学科，简单地说，机器学习就是通过算法，使得机器能从大量的历史数据中学习规律，从而对新的样本做智能识别或预测未来。机器学习在图像识别、语音识别、自然语言理解、天气预测、基因表达、内容推荐等很多方面的发展还存在着没有良好解决的问题。传统的模式识别方法：通过传

深度学习笔记之为什么要用概率

 计算机科学的许多分支处理的大部分都是完全确定的实体。程序员通常可以安全地假定 CPU 将完美地执行每个机器指令。硬件错误确实会发生，但它们足够罕见，以至于大部分软件应用并不需要被设计为考虑这些因素的影响。鉴于很多计算机科学家和软件工程师在一个相对干净和确定的环境中工作，机器学习对于概率论的大量使用不得不令人吃惊。 

深度学习之平滑先验

务中的统计挑战。本书中，我们将介绍深度学习如何引入额外的（显示的和隐式的）先验去降低复杂任务中的泛化误差。这里，我们解释为什么单是平滑先验不足以应对这类任务。有许多不同的方法来隐式地或显式地表示学习函数应该是光滑或局部不变的先验。所有这些不同的方法都旨在鼓励学习过程能够学习出函数

人工智能、机器学习、深度学习的关系

数据的一种机器学习技术。它的基本特点，是试图模仿大脑的神经元之间传递，处理信息的模式。最显著的应用是计算机视觉和自然语言处理(NLP)领域。显然，“深度学习”是与机器学习中的“神经网络”是强相关，“神经网络”也是其主要的算法和手段；或者我们可以将“深度学习”称之为“改良版的神经网

深度学习是机器学习的一种

深度学习是机器学习的一种，而机器学习是实现人工智能的必经路径。深度学习的概念源于人工神经网络的研究，含多个隐藏层的多层感知器就是一种深度学习结构。深度学习通过组合低层特征形成更加抽象的高层表示属性类别或特征，以发现数据的分布式特征表示。研究深度学习的动机在于建立模拟人脑进行分析学

深度学习神经网络

对信息的处理是分级的。从低级的提取边缘特征到形状（或者目标等），再到更高层的目标、目标的行为等，即底层特征组合成了高层特征，由低到高的特征表示越来越抽象。深度学习借鉴的这个过程就是建模的过程。 深度神经网络可以分为3类，前馈深度网络(feed-forwarddeep networks

强化学习和深度学习的结合

从整个机器学习的任务划分上来看，机器学习可以分为有监督学习、无监督学习和半监督学习及强化学习。图像、文本等深度学习的应用都属于有监督学习范畴。自编码器和生成式对抗网络可以算在无监督深度学习范畴内。最后就剩下强化学习了。强化学习发展到现在，早已结合了神经网络迸发出新的活力，强化学习结合深度学习已经形成了深度强化学习（Deep