检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
当数据的维数很高时，很多机器学习问题变得相当困难。这种现象被称为维数灾难 (curse of dimensionality)。特别值得注意的是，一组变量不同的可能配置数量会随着变量数目的增加而指数级增长。维数灾难发生在计算机科学的许多地方，在机器学习中尤其如此。 由维数灾难带来的一个挑战是统计挑战。如图5
因为这个求和包含多达指数级的项，除非该模型的结构允许某种形式的简化，否则是不可能计算的。目前为止，无法得知深度神经网络是否允许某种可行的简化。相反，我们可以通过采样近似推断，即平均许多掩码的输出。即使是 10 − 20 个掩码就足以获得不错的表现。然而，一个更好的方法能不错地近似
较大时，Cramér-Rao 下界(Rao, 1945; Cramér, 1946) 表明不存在均方误差低于最大似然学习的一致估计。因为这些原因（一致性和统计效率），最大似然通常是机器学习中的首选估计。当样本数目小到会过拟合时，正则化策略如权重衰减可用于获得训练数据有限时方差较小的最大似然有偏版本。
非常小。另一方面，实验中梯度下降似乎可以在许多情况下逃离鞍点。Goodfellow et al. (2015) 可视化了最新神经网络的几个学习轨迹，给了一个例子。这些可视化显示，在突出的鞍点附近，代价函数都是平坦的，权重都为零。但是他们也展示了梯度下降轨迹能够迅速逸出该区间。Goodfellow
通信。在这种情况下，信息论告诉我们如何设计最优编码，以及计算从一个特定的概率分布上采样得到、使用多种不同的编码机制的消息的期望长度。在机器学习中，我们也可以把信息论应用在连续型变量上，而信息论中一些消息长度的解释不怎么使用。信息论是电子工程和计算机科学的许多领域的基础。在本书中，
对总训练时间的影响不大。提前终止是一种非常不显眼的正则化形式，它几乎不需要改变基本训练过程、目标函数或一组允许的参数值。这意味着，无需破坏学习动态就能很容易地使用提前终止。相对于权重衰减，必须小心不能使用太多的权重衰减，以防网络陷入不良局部极小点(对应于病态的小权重)。提前终止可
正如前面提到的，我们将操作的定义限制为返回单个张量的函数。大多数软件实现需要支持可以返回多个张量的操作。例如，如果我们希望计算张量中的最大值和该值的索引，则最好在单次运算中计算两者，因此将该过程实现为具有两个输出的操作效率更高。我们还没有描述如何控制反向传播的内存消耗。反向传播经
我们使用反向传播作为一种策略来避免多次计算链式法则中的相同子表达式。由于这些重复子表达式的存在，简单的算法可能具有指数运行时间。现在我们已经详细说明了反向传播算法，我们可以去理解它的计算成本。如果我们假设每个操作的执行都有大致相同的开销，那么我们可以依据执行操作的数量来分析计算成
一些反向传播的方法采用计算图和一组用于图的输入的数值，然后返回在这些输入值处梯度的一组数值。我们将这种方法称为符号到数值的微分。这种方法用在诸如 Torch (Collobert et al., 2011b) 和 Caffe (Jia, 2013) 之类的库中。另一种方法是采用计算
有时候，在 x 的所有可能值下最大化或最小化一个函数 f(x) 不是我们所希望的。相反，我们可能希望在 x 的某些集合 S 中找 f(x) 的最大值或最小值。这被称为约束优化 (constrained optimization)。在约束优化术语中，集合 S 内的点 x
标量：一个标量就是一个单独的数，不同于线性代数中大多数概念会涉及到多个数。我们用斜体表示标量。标量通常赋予小写的变量名称。当我们介绍标量时，会明确它们是哪种类型的数。比如，在定义实数标量时，我们可能会说“让s ∈ R 表示一条线的斜率”；在定义自然数标量时，我们可能会说“让n
1.1 打开Anaconda Prompt1、conda create -n pytorch python=3.7.0：创建名为pytorch的虚拟环境，并为该环境安装python=3.7。2、activate pytorch：激活名为pytorch的环境1.2 确定硬件支持的C
从数学上来看，深度神经网络仅仅是一种函数的表达形式，是复杂的多层复合函数。由于它有大量的可调参数，而且近年来随着大数据、优化算法和并行计算GPU硬件的发展，使得用大规模的神经网络来逼近和拟合大数据成为可能。
入对应不同的输出，那么训练误差可能会大于零）。最后，我们也可以将参数学习算法嵌入另一个依所需增加参数数目的算法来创建非参数学习算法。例如，我们可以想象一个算法，外层循环调整多项式的次数，内存循环通过线性回归学习模型。理想模型假设我们能够预先知道生成数据的真实概率分布。然而这样的模
支持向量机的一个重要创新是核技巧 (kernel trick)。核策略观察到许多机器学习算法都可以写成样本间点积的形式。例如，支持向量机中的线性函数可以重写为： 其中，x(i) 是训练样本，α 是系数向量。学习算法重写为这种形式允许我们将 x替换为特征函数 φ(x) 的输出，点积替换为被称为核函数
过拟合，欠拟合过拟合（overfitting）：学习能力过强，以至于把训练样本所包含的不太一般的特性都学到了。欠拟合（underfitting）：学习能太差，训练样本的一般性质尚未学好。下面是直观解释：
对抗样本也提供了一种实现半监督学习的方法。在与数据集中的标签不相关联的点 x 处，模型本身为其分配一些标签 yˆ。模型的标记 yˆ 未必是真正的标签，但如果模型是高品质的，那么 yˆ 提供正确标签的可能性很大。我们可以搜索一个对抗样本 x′，导致分类器输出一个标签 y′ 且 y′
最常用的方法是输出模型在一些样本上概率对数的平均值。通常，我们会更加关注机器学习算法在未观测数据上的性能如何，因为这将决定其在现实生活中的性能如何。因此，我们使用测试数据来评估系统性能，同训练机器学习系统的数据分开。性能度量的选择或许看上去简单且客观，但是选择一个与系统理想表现
是输出模型在一些样本上概率对数的平均值。 通常，我们会更加关注机器学习算法在未观测数据上的性能如何，因为这将决定其在现实生活中的性能如何。因此，我们使用测试数据来评估系统性能，同训练机器学习系统的数据分开。性能度量的选择或许看上去简单且客观，但是选择一个与系统理想表现对应的性能度量通常是很难的。
数据的维数很高时，很多机器学习问题变得相当困难。这种现象被称为维数灾难 (curse of dimensionality)。特别值得注意的是，一组变量不同的可能配置数量会随着变量数目的增加而指数级增长。由维数灾难带来的一个挑战是统计挑战。如图5.9所示，统计挑战产生于 x 的可能
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
