检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
7/1658883526687508822.png) 矩阵的基本运算就是加减乘除。加减法如果这两个矩阵的维度是一样的，就非常好理解。矩阵也可以和行向量进行加减，要求行向量的列数和矩阵的列数是一样的。 矩阵的乘法，如果两个矩阵的维度一样，也非常好理解，这种叫做`逐点相乘`（element-wise
ad,ndigits=3))) 自变量：0.5 因变量：0.8 权重：0.2 预测值：0.1 差值：0.245 梯度：-0.35 ``` 可以看到预测值和真实值的差值在变小（0.32 > 0.245），也就是在向着不断的收敛的方向。
这个在工作生活中应用的实在是太广泛了。比如老板问你这件事情明天能不能搞完？一般情况下，你的回答可能就是一个随机变量。 随机变量可以分为两种类型：连续型和离散型。 `随机变量的分布`用来描述随机变量出现某种结果的可能性。可以用一些分布函数来表示。 常见的概率分布有几种。这里只看最常见的一种概率分布，就是`正态分布`也叫高斯分布。
L2惩罚法也是一个经典的正则化方法。 它是在原有损失函数的基础上，在构造一个新的损失函数。（带有惩罚项 是一个超参数）模型集成（model ensemble)可以提供模型的预测准确度，思想就是， 先训练大量结构不同的模型，通过平均、或投票方式综合所有模型的结构，得到最终预测。在实际中，有较大限制，原因很简单，
之前学了一个深度学习应用开发，学了一段时间，后来就没学了。 确实是"靡不有初，鲜克有终"，现在不愿意再继续之前的学。我又找了一本书从头开始，这本书的名字是深度学习入门与TensorFlow实践>。 `数（scalar）`是一个数字。 简直是废话。 不过这才刚开始嘛。 多个数字有序
引入这两个算法。神经网络的目的是建立输入层与输出层之间的关系，进而利用建立的关系得到预测值。通过增加隐藏层，神经网络可以找到输入层与输出层之间较复杂的关系。深度学习是拥有多个隐藏层的神经网络，在神经网络中，我们通过正向传播算法得到预测值，并通过反向传播算法得到参数梯度，然后利用梯
些偏导数等于零，解方程得到b和w的估计值。但是这个方法只适合少数结构比较简单的模型（比如线性回归模型），不能求解深度学习这类复杂模型的参数。 所以下面介绍的是深度学习中常用的优化算法：`梯度下降法`。其中有三个不同的变体：随机梯度下降法、全数据梯度下降法、和批量随机梯度下降法。
如果太小，算法会收敛的很慢。 如果太大，容易造成算法不收敛，甚至发散。 自变量的标准化，和因变量的中心化，是建立深度学习模型常用的数据预处理方法。 他们的好处，是不仅可以让梯度下降法的数值表现的更加稳定，还有助于我们找到合适的初始值和步长。  可以看到logistic模型找到的线，有一个右下角的原点预测错误。4个当中1个错误。这个是情理之中，别说机器，让你只画一条决策线，能进行正确的预测划分，你也画不出来。 但是如果可以让你画2条线，那就没什么问题。那么对机器来说，又应该怎么做呢？
一个负的梯度呗。就是w+(-grad)，巧了，也是w-grad。 所以无论w的初始值是在哪边，$w=w-\nabla_wRSS(w)$ 都可以让w朝着RSS变小的方向移动。RSS最小的地方，就是我们寻找的地方，因为在这个地方预测值和真实值的差异最小，也就是说预测值最接近真实值。
练数据。 先要对自变量进行`标准化`，对因变量进行`中心化`。 标准化后所有自变量的均值是0，方差是1。中心化后因变量的均值是0。 这样做可以让梯步下降法的数值更加稳定，更容易找到合适的初始值和学习步长。 一个标准化的方法就是让数据的每一列减去该列的均值，然后除以该列的样本标准差（$sd(x)$）:
接下来就是讲线性模型了。线性模型相对比较简单，但是他是学习比较复杂的深度学习模型的一个基础，而且线性模型本身也具有广泛的用途。 这里讲了线性模型中的线性回归模型和logistic模型。线性回归模型用于处理`回归问题`。logistic模型用于处理`分类问题`。 线性回归模型可以写作如下的形式：  前一节已经讲过线性回归模型的数学公式的表达，这里我们先假设给定截距项b和自变量权重w，至于误差这里不管，那么我们就可以写出预测函数了。 ```python def linear_mode(input,weight,b): prediction=np.sum(input*weight)+b
al., 2015) 都能支持重要的研究项目或商业产品。 深度学习也为其他科学做出了贡献。用于对象识别的现代卷积网络为神经科学家们提供了可以研究的视觉处理模型 (DiCarlo, 2013)。深度学习也为处理海量数据以及在科学领域作出有效的预测提供了非常有用的工具。它已
数据会包含多个自变量，多个权重，很多个观测点。 用 $L(w)=L(w_1,w_2,...,w_p)$ 表示包含p个权重或参数的损失函数，它的梯度可以表示为： =max(x,0) 是一个折线函数，所有负的输入值都变换成0，所有非负的输入值，函数值都等于
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
