Ubuntu深度学习环境配置

7版本或其他版本的，根据自己的需要下载合适的安装包。下载链接：https://www.anaconda.com/download/#linux点击下面的64-Bit (x86) Installer (522 MB)，下载64位的版本。下载完后的文件名是：Anaconda3-2020.02-Linux-x86_64

《深度学习入门》笔记 - 26

欠拟合、过拟合的总结如下:接下来是TensorFlow框架部分，之前有个帖子 基于TensorFlow 2建立深度学习的模型 - 快速入门 cid:link_0然后会使用它来建立线性回归模型和神经网络分类模型敬请期待

深度学习的特征提取

传统的机器学习需要人工提取数据特征，而深度学习通过层次化的表示来完成特征的提取。层次化的表示是指用简单的表示逐步表达较复杂的表示。1. 如何理解简单和复杂的表示？ 2. 这种所谓层次化的表示的理论依据是什么？

《深度学习入门》笔记 - 21

Linear Unit）函数出现和流行的时间都比较晚，但却是深度学习常用的激活函数。它非常简单： ReLU(x)=max(x,0) 是一个折线函数，所有负的输入值都变换成0，所有非负的输入值，函数值都等于输入值本身。ReLU函数在正值区域没有梯度消失的问题。最后，总结如下：

AI前沿——深度学习技术

别。开始的通过传感器(例如CMOS)来获得数据。然后经过预处理、特征提取、特征选择，再到推理、预测或者识别。最后一个部分，也就是机器学习的部分，绝大部分的工作是在这方面做的，也存在很多的paper和研究。而中间的三部分，概括起来就是特征表达。良好的特征表达，对最终算法的准确性起了

浅谈深度学习Backbone

bone和head之间的，是为了更好的利用backbone提取的特征。Bottleneck：瓶颈的意思，通常指的是网网络输入的数据维度和输出的维度不同，输出的维度比输入的小了许多，就像脖子一样，变细了。经常设置的参数 bottle_num=256，指的是网络输出的数据的维度是256

深度学习之正则化

试集上的表现。有时侯，这些约束和惩罚被设计为编码特定类型的先验知识；其他时候，这些约束和惩罚被设计为偏好简单模型，以便提高泛化能力。有时，惩罚和约束对于确定欠定的问题是必要的。其他形式的正则化（如集成方法）结合多个假说来解释训练数据。

机器学习与深度学习的比较

器。因此，深度学习要求包括GPU。这是它工作中不可或缺的一部分。它们还进行大量的矩阵乘法运算。特色工程这是一个普遍的过程。在此，领域知识被用于创建特征提取器，以降低数据的复杂性，并使模式更加可见以学习算法的工作。虽然，处理起来非常困难。因此，这是需要非常多的专业知识和时间。解决问

深度学习之经验E

是统计学家和机器学习研究者使用很久的数据集。它是150 个鸢尾花卉植物不同部分测量结果的集合。每个单独的植物对应一个样本。每个样本的特征是该植物不同部分的测量结果：萼片长度，萼片宽度，花瓣长度和花瓣宽度。这个数据集记录了每个植物属于什么品种，其**有三个不同的品种。        无监督学习算法(unsupervised

深度学习之经验风险

最有效的现代优化算法是基于梯度下降的，但是很多有用的损失函数，如 0 − 1 损失，没有有效的导数（导数要么为零，要么处处未定义）。这两个问题说明，在深度学习中我们很少使用经验风险最小化。反之，我们会使用一个稍有不同的方法，我们真正优化的目标会更加不同于我们希望优化的目标。

AI、机器学习、深度学习的关系

分享深度学习发展的混合学习

器解码器模型进行压缩。在最简单的形式中，它们是中间有少量节点的神经网络，用于表示某种形式的瓶颈和压缩。两侧的两个部分是编码器和解码器。训练网络生成与输入向量相同的输入（使用无监督数据手动设计的监督任务）。由于中间有故意设计的瓶颈，网络不能被动地发送信息。相反，为了使解码器更好地解

学习笔记 - 深度学习理论最新进展研究

及其动态系统，它描绘了深度学习优化和泛化的特征，并部分受到贝叶斯推理的启发；(3)驱动动态系统轨迹的损失态势的几何结构；(4)深度神经网络过度参数化的积极和消极作用；(5)网络体系结构中几种特殊结构的理论基础；(6)对伦理和安全及其与深度学习普遍性之间关系的关注越来越强烈。地址：https://arxiv

神经网络和深度学习理论基础

import numpy as np import math import matplotlib.pyplot as plt def act(x, deriv=False): if(deriv==True): return x*(1-x)#x is activated

由线性回归来理解深度学习的理论基础（4）

层），如果我们添加更多隐藏层，则可以拓展处更复杂的功能，即我们接下来要介绍的多层感知器（深度学习）。我们回顾一下：1）感知器是生物神经元的简化模型。2）感知器是用于学习二元分类器的算法：将其输入映射到输出值的函数。3）在神经网络的背景下，感知器是使用Heaviside阶跃函数作为

深度学习之机器学习基础

深度学习是机器学习的一个特定分支。要想学好深度学习，必须对机器学习的基本原理有深刻的理解。本章将探讨贯穿本书其余部分的一些机器学习重要原理。我们建议新手读者或是希望更全面了解的读者参考一些更全面覆盖基础知识的机器学习参考书，例如Murphy (2012) 或者Bishop (20

深度学习笔记之贡献

等。我们期待深度学习未来能够出现在越来越多的科学领域中。      总之，深度学习是机器学习的一种方法。在过去几十年的发展中，它大量借鉴了我们关于人脑、统计学和应用数学的知识。近年来，得益于更强大的计算机、更大的数据集和能够训练更深网络的技术，深度学习的普及性和实用性都有了极大的发展。

《深度学习笔记》的笔记（二）

神经网络的结构从普通的全连接神经网络，发展到卷积神经网络、循环神经网络、自编码器、生成式对抗网络和图神经网络等各种结构， 但BP算法一直是神经网络的一个经典和高效的寻优工具。附神经网络早期一些发展历程1943年，WarrenMcCulloch和WalterPitts于《神经元与行

**Mac深度学习环境配置**

看到自己下载好的应用程序，左上角“Applications on”应该指向的是“base (root)”，左边点击“Environments”就可以看到自己建立的虚拟环境和对应的包了。点击左下角的Create 即可创建一个新的虚拟环境。输入环境名称和python 的版本，点击create

深度学习之历史小计

前馈网络可以被视为一种高效的非线性函数近似器，它以使用梯度下降来最小化函数近似误差为基础。从这个角度来看，现代前馈网络是一般函数近似任务的几个世纪进步的结晶。处于反向传播算法底层的链式法则是 17 世纪发明的 (Leibniz, 1676; L’Hôpital, 1696)。微积分和代数长期以来