《深度学习应用开发》学习笔记－04

在1904年的时候，生物学家了解了神经元的结构然后在1945年的时候发明了神经元模型。那么这个神经元的模型真的可以模拟生物的神经功能吗，个人觉得有点奇妙，不过动物植物本来都是很奇妙的存在。所谓的全连接层，就是说某层的一个节点，和他上一层的所有节点都有连接。就像连接的边长不同，每条

《深度学习应用开发》学习笔记-32

这里谈到了独热编码one-hot，独热编码是用来表示标签数据的。前面已经知道了，标签数据很简单，就是表示0-9范围内的一个数字。 说实话独热编码有什么用处，真的还没有理解。还有什么欧式空间的概念啊，都很陌生。 看看代码吧。 ```python #独热编码示例。 x=[3,4] tf

【转载】传统机器学习与深度学习

分享深度学习发展的学习范式——混合学习

 这种学习范式试图去跨越监督学习与无监督学习边界。由于标签数据的匮乏和收集有标注数据集的高昂成本，它经常被用于商业环境中。从本质上讲，混合学习是这个问题的答案。我们如何才能使用监督学习方法来解决或者链接无监督学习问题？例如这样一个例子，半监督学习在机器学习领域正日益流行，因为它能

分享深度学习发展的学习范式——混合学习

    这种学习范式试图去跨越监督学习与无监督学习边界。由于标签数据的匮乏和收集有标注数据集的高昂成本，它经常被用于商业环境中。从本质上讲，混合学习是这个问题的答案。我们如何才能使用监督学习方法来解决或者链接无监督学习问题？例如这样一个例子，半监督学习在机器学习领域正日益流行，因

AI前沿——深度学习技术

算法，人类终于找到了如何处理“抽象概念”这个亘古难题的方法。机器学习(Machine Learning)是一门专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构市值不断改善自身的性能的学科，简单地说，机器学习就是通过算法，使得机器能从大量的历史数据中学习规律，从而对新的样本做智能

【转载】深度学习与人脑

深度学习是机器学习的一个子集，它通过接收大量数据并试图从中学习来模拟人脑。在IBM对该术语的定义中，深度学习使系统能够“聚集数据，并以令人难以置信的准确性做出预测。” 然而，尽管深度学习令人难以置信，但IBM尖锐地指出，它无法触及人脑处理和学习信息的能力。深度学习和 DNN（深度

深度学习神经网络

者目标等），再到更高层的目标、目标的行为等，即底层特征组合成了高层特征，由低到高的特征表示越来越抽象。深度学习借鉴的这个过程就是建模的过程。 深度神经网络可以分为3类，前馈深度网络(feed-forwarddeep networks, FFDN)，由多个编码器层叠加而成，如多层感知机(multi-layer

深度学习笔记之理解

        我们今天知道的一些最早的学习算法，是旨在模拟生物学习的计算模型，即大脑怎样学习或为什么能学习的模型。其结果是深度学习以人工神经网络 (artificial neural network, ANN) 之名而淡去。彼时，深度学习模型被认为是受生物大脑（无论人类大脑或其他

《深度学习入门》笔记 - 26

欠拟合、过拟合的总结如下:接下来是TensorFlow框架部分，之前有个帖子 基于TensorFlow 2建立深度学习的模型 - 快速入门 cid:link_0然后会使用它来建立线性回归模型和神经网络分类模型敬请期待

深度学习之正则化

机器学习中的一个核心问题是设计不仅在训练数据上表现好，并且能在新输入上泛化好的算法。在机器学习中，许多策略显式地被设计为减少测试误差（可能会以增大训练误差为代价）。这些策略被统称为正则化。我们将在后文看到，深度学习工作者可以使用许多不同形式的正则化策略。事实上，开发更有效的正则化

深度学习之经验E

什么品种，其**有三个不同的品种。        无监督学习算法(unsupervised learning algorithm) 训练含有很多特征的数据集，然后学习出这个数据集上有用的结构性质。在深度学习中，我们通常要学习生成数据集的整个概率分布，显式地，比如密度估计，或是隐式

机器学习——深度学习(Deep Learning)

Learning是机器学习中一个非常接近AI的领域，其动机在于建立、模拟人脑进行分析学习的神经网络，最近研究了机器学习中一些深度学习的相关知识，本文给出一些很有用的资料和心得。 Key Words：有监督学习与无监督学习，分类、回归，密度估计、聚类，深度学习，Sparse DBN，

深度学习概述

少正则化参数；使用非线性模型，比如核SVM、决策树、深度学习等模型；调整模型的容量(capacity)，通俗地，模型的容量是指其拟合各种函数的能力；容量低的模型可能很难拟合训练；使用集成学习方法，如Bagging，将多个弱学习器Bagging。 产生过拟合的具体原因数据噪声干扰过

深度学习之经验风险

机器学习算法的目标是降低式 (8.2) 所示的期望泛化误差。这个数据量被称为风险（risk）。在这里，我们强调该期望取自真实的潜在分布 pdata。如果我们知道了真实分布 pdata(x, y)，那么最小化风险变成了一个可以被优化算法解决的优化问题。然而，我们遇到的机器学习问题，通常是不知道

《深度学习应用开发》学习笔记-21

说道：矩阵运算，是机器学习的基本手段，必须要掌握。 所以后面有线性代数、矩阵运算的基本介绍。 标量是一个特殊的向量（行向量、列向量），向量是一个特殊的矩阵；这样说来，标量，也是一个特殊的矩阵，一行一列的矩阵。 看代码吧 ```python import numpy as np ```

《深度学习入门》笔记 - 21

的梯度消失问题。tanh函数也有梯度消失问题。ReLU(Rectified Linear Unit）函数出现和流行的时间都比较晚，但却是深度学习常用的激活函数。它非常简单： ReLU(x)=max(x,0) 是一个折线函数，所有负的输入值都变换成0，所有非负的输入值，函数值都等于

深度学习之平滑先验

用于度量测试样本 x 和每个训练样本 x(i) 有多么相似。近年来深度学习的很多推动力源自研究局部模版匹配的局限性，以及深度学习如何克服这些局限性 (Bengio et al., 2006a)。决策树也有平滑学习的局限性，因为它将输入空间分成和叶节点一样多的区间，并在每个区间使用

机器学习和深度学习的区别是什么？

深度学习是机器学习算法的子类，其特殊性是有更高的复杂度。因此，深度学习属于机器学习，但它们绝对不是相反的概念。我们将浅层学习称为不是深层的那些机器学习技术。让我们开始将它们放到我们的世界中：这种高度复杂性基于什么？在实践中，深度学习由神经网络中的多个隐藏层组成。我们在《从神经元到

深度学习笔记之贡献

        深度学习的另一个最大的成就是其在强化学习 (reinforcement learning) 领域的扩展。在强化学习中，一个自主的智能体必须在没有人类操作者指导的情况下，通过试错来学习执行任务。DeepMind 表明，基于深度学习的强化学习系统能够学会玩Atari 视频游戏，并在多种任务中可与人类匹敌