- 综合排序
- 最热优先
- 最新优先
- 来自专栏智能大数据分析
【深度学习优化算法】10：Adam算法
它是在统计机器学习、人工神经网络等算法模型基础上，结合当代大数据和大算力的发展而发展出来的。深度学习最重要的技术特征是具有自动提取特征的能力。神经网络算法、算力和数据是开展深度学习的三要素。 深度学习在计算机视觉、自然语言处理、多模态数据分析、科学探索等领域都取得了很多成果。本专栏介绍基于PyTorch的深度学习算法实现。 在AdaGrad算法中，我们通过对每个坐标缩放来实现高效计算的预处理器。 在RMSProp算法中，我们通过学习率的调整来分离每个坐标的缩放。 Adam算法将所有这些技术汇总到一个高效的学习算法中。 不出预料，作为深度学习中使用的更强大和有效的优化算法之一，它非常受欢迎。但是它并非没有问题，尤其有时Adam算法可能由于方差控制不良而发散。 前者在实践中效果略好一些，因此与RMSProp算法有所区分。通常，我们选择 \epsilon = 10^{-6} ，这是为了在数值稳定性和逼真度之间取得良好的平衡。
87910编辑于 2025-08-02 - 来自专栏数据科学与人工智能
【算法】10 种机器学习算法要点
小编邀请您，先思考： 1 你熟悉那些机器学习算法？ 2 你如何应用机器学习算法？ 非监督式学习的例子有：关联算法和 K – 均值算法。 3、强化学习 工作机制：这个算法训练机器进行决策。它是这样工作的：机器被放在一个能让它通过反复试错来训练自己的环境中。 机器从过去的经验中进行学习，并且尝试利用了解最透彻的知识作出精确的商业判断。 强化学习的例子有马尔可夫决策过程。 常见机器学习算法名单 这里是一个常用的机器学习算法名单。 更多请见：支持向量机的简化(http://www.analyticsvidhya.com/blog/2014/10/support-vector-machine-simplified/) 将这个算法想作是在一个 如何决定 K 值： K – 均值算法涉及到集群，每个集群有自己的质心。一个集群内的质心和各数据点之间距离的平方和形成了这个集群的平方值之和。
86190发布于 2018-03-27 - 来自专栏运维开发王义杰
如何学习算法
学习算法是计算机科学和编程的重要部分，它能帮助我们更有效地解决问题并提高代码的性能。以下是一些学习算法的建议： 1. 理解基本概念：首先，需要理解算法的基本概念，包括时间复杂度和空间复杂度，这可以帮助我们理解算法的效率。 2. 学习基本的数据结构：数据结构是算法的基础，如数组，链表，堆栈，队列，散列表，树，图等。 学习基本的算法：然后，我们可以开始学习基本的算法，包括排序算法（如冒泡排序，选择排序，插入排序，快速排序等），查找算法（如二分查找），图算法（如深度优先搜索和广度优先搜索），动态规划等。 4. 做练习题：理论学习是重要的，但实践是真正理解算法的关键。我们可以在在线编程平台（如LeetCode，HackerRank等）上做一些算法题。 5. 持续学习和反思：算法是一个深入的主题，需要持续学习和反思。不要担心进展的速度，重要的是理解和掌握。
50110编辑于 2023-08-16 - 来自专栏奇点大数据
机器学习必学10大算法
本文介绍了 10 大常用机器学习算法，包括线性回归、Logistic 回归、线性判别分析、朴素贝叶斯、KNN、随机森林等。 1. 关键之处在于如何判定数据实例之间的相似程度。如果你的数据特征尺度相同（例如，都以英寸为单位），那么最简单的度量技术就是使用欧几里得距离，你可以根据输入变量之间的差异直接计算出该值。 ? 学习向量量化 KNN 算法的一个缺点是，你需要处理整个训练数据集。而学习向量量化算法（LVQ）允许选择所需训练实例数量，并确切地学习这些实例。 ? 学习向量量化 LVQ 的表示是一组码本向量。 袋装法和随机森林 随机森林是最流行也最强大的机器学习算法之一，它是一种集成机器学习算法。 自助法是一种从数据样本中估计某个量（例如平均值）的强大统计学方法。 如果你使用具有高方差的算法（例如决策树）获得了良好的结果，那么你通常可以通过对该算法执行 Bagging 获得更好的结果。 10.
79520发布于 2019-04-29 - 来自专栏张俊红
图解10大机器学习算法
今天给大家分享一篇机器学习算法的文章，利用图解的方式介绍了10大常见的机器学习算法。 对于渴望了解机器学习基础知识的机器学习新人来说，这儿有份数据科学家使用的十大机器学习算法，为你介绍这十大算法的特性，采用图解的方式便于大家更好地理解和应用， 1、线性回归Linear Regression 成功的诀窍在于如何确定数据实例之间的相似性。如果你的属性都是相同的比例，最简单的方法就是使用欧几里德距离，它可以根据每个输入变量之间的差直接计算。 如果你使用高方差算法（如决策树）获得良好结果，那么加上这个算法后效果会更好。 10、Boosting和AdaBoost Boosting是一种从一些弱分类器中创建一个强分类器的集成技术。 虽然还有很多其他的机器学习算法，但这些算法是最受欢迎的算法。如果你是机器学习的新手，这是一个很好的学习起点。
90051编辑于 2022-03-25 - 来自专栏机器之心
机器学习必学10大算法
本文介绍了 10 大常用机器学习算法，包括线性回归、Logistic 回归、线性判别分析、朴素贝叶斯、KNN、随机森林等。 1. 关键之处在于如何判定数据实例之间的相似程度。如果你的数据特征尺度相同（例如，都以英寸为单位），那么最简单的度量技术就是使用欧几里得距离，你可以根据输入变量之间的差异直接计算出该值。 ? 学习向量量化 KNN 算法的一个缺点是，你需要处理整个训练数据集。而学习向量量化算法（LVQ）允许选择所需训练实例数量，并确切地学习这些实例。 ? 学习向量量化 LVQ 的表示是一组码本向量。 袋装法和随机森林 随机森林是最流行也最强大的机器学习算法之一，它是一种集成机器学习算法。 自助法是一种从数据样本中估计某个量（例如平均值）的强大统计学方法。 如果你使用具有高方差的算法（例如决策树）获得了良好的结果，那么你通常可以通过对该算法执行 Bagging 获得更好的结果。 10.
89730发布于 2019-03-30 - 来自专栏小詹同学
机器学习必学10大算法
本文介绍了 10 大常用机器学习算法，包括线性回归、Logistic 回归、线性判别分析、朴素贝叶斯、KNN、随机森林等。 1. 关键之处在于如何判定数据实例之间的相似程度。如果你的数据特征尺度相同（例如，都以英寸为单位），那么最简单的度量技术就是使用欧几里得距离，你可以根据输入变量之间的差异直接计算出该值。 ? 学习向量量化 KNN 算法的一个缺点是，你需要处理整个训练数据集。而学习向量量化算法（LVQ）允许选择所需训练实例数量，并确切地学习这些实例。 ? 学习向量量化 LVQ 的表示是一组码本向量。 袋装法和随机森林 随机森林是最流行也最强大的机器学习算法之一，它是一种集成机器学习算法。 自助法是一种从数据样本中估计某个量（例如平均值）的强大统计学方法。 如果你使用具有高方差的算法（例如决策树）获得了良好的结果，那么你通常可以通过对该算法执行 Bagging 获得更好的结果。 10.
62100发布于 2019-11-12 - 来自专栏云计算linux
机器学习必学10大算法
本文介绍了 10 大常用机器学习算法，包括线性回归、Logistic 回归、线性判别分析、朴素贝叶斯、KNN、随机森林等。 1. 线性回归 在统计学和机器学习领域，线性回归可能是最广为人知也最易理解的算法之一。 预测建模主要关注的是在牺牲可解释性的情况下，尽可能最小化模型误差或做出最准确的预测。 我们将借鉴、重用来自许多其它领域的算法(包括统计学)来实现这些目标。 线性回归 例如：y = B0 + B1 * x 我们将在给定输入值 x 的条件下预测 y，线性回归学习算法的目的是找到系数 B0 和 B1 的值。 线性回归是一种运算速度很快的简单技术，也是一种适合初学者尝试的经典算法。 2. Logistic 回归 Logistic 回归是机器学习从统计学领域借鉴过来的另一种技术。
50610编辑于 2024-12-18 - 来自专栏数据科学与人工智能
【机器学习】10 种机器学习算法的要点
广义来说，有三种机器学习算法 1、 监督式学习 工作机制：这个算法由一个目标变量或结果变量（或因变量）组成。这些变量由已知的一系列预示变量（自变量）预测而来。 非监督式学习的例子有：关联算法和 K – 均值算法。 3、强化学习 工作机制：这个算法训练机器进行决策。它是这样工作的：机器被放在一个能让它通过反复试错来训练自己的环境中。 机器从过去的经验中进行学习，并且尝试利用了解最透彻的知识作出精确的商业判断。 强化学习的例子有马尔可夫决策过程。 常见机器学习算法名单 这里是一个常用的机器学习算法名单。 K – 均值算法是一种非监督式学习算法，它能解决聚类问题。 如何决定 K 值： K – 均值算法涉及到集群，每个集群有自己的质心。一个集群内的质心和各数据点之间距离的平方和形成了这个集群的平方值之和。
1.1K70发布于 2018-02-27 - 来自专栏WD学习记录
机器学习 学习笔记（10）序列最小最优化算法
序列最小最优化算法（Sequential minimal optimization） SMO算法要解如下凸二次规划的对偶问题： ? ? ? SMO算法是一种启发式算法，基本思路是：如果所有边的解都满足此优化问题的KKT条件，那么这个最优化问题的解就得到了，因为KKT条件就是该最优化问题的充分必要条件。 如此，SMO算法将原问题不断分解为子问题并对子问题求解，进而达到求解原问题的目的。 子问题的两个变量中只有一个是自由变量。 变量的选择方法 SMO算法在每个子问题中选择两个变量优化，其中至少一个变量是违反KKT条件的。 代码实现可以参见：https://blog.csdn.net/sxllllwd/article/details/81609595 参考： 《统计学习方法》
2.1K20发布于 2018-09-03 - 来自专栏Datawhale专栏
机器学习必知必会10大算法
本文介绍了 10 大常用机器学习算法，包括线性回归、Logistic 回归、线性判别分析、朴素贝叶斯、KNN、随机森林等。 1. 关键之处在于如何判定数据实例之间的相似程度。如果你的数据特征尺度相同（例如，都以英寸为单位），那么最简单的度量技术就是使用欧几里得距离，你可以根据输入变量之间的差异直接计算出该值。 ? 学习向量量化 KNN 算法的一个缺点是，你需要处理整个训练数据集。而学习向量量化算法（LVQ）允许选择所需训练实例数量，并确切地学习这些实例。 ? 学习向量量化 LVQ 的表示是一组码本向量。 袋装法和随机森林 随机森林是最流行也最强大的机器学习算法之一，它是一种集成机器学习算法。 自助法是一种从数据样本中估计某个量（例如平均值）的强大统计学方法。 如果你使用具有高方差的算法（例如决策树）获得了良好的结果，那么你通常可以通过对该算法执行 Bagging 获得更好的结果。 10.
54111发布于 2019-10-23 - 来自专栏氧化先生的专栏
10种深度学习算法的TensorFlow实现
这个 repository 是使用 TensorFlow 库实现的多种深度学习算法的实现。 这个软件包的目标是作为一种命令行实用程序——你可以将其用来快速训练和评估流行的深度学习模型以及也许使用它们作为与你的自定义模型/数据集比较的基准/标准。 如果你想在 ipython 中使用这个软件包或将其整合到你的代码中，作者还发布了一个名叫 yadlt 的 pip 包，然而那是另一个深度学习工具了。 Autoencoders） 多层感知器（MultiLayer Perceptron） Logistic 回归 安装 通过 pip 安装： pip install yadlt 你可以通过查看 command_line/ 目录学习这些模型的基本使用方法 deep-learning-tensorflow.readthedocs.io/en/latest/ 接下来将加入的模型 变自编码器（Variational Autoencoders） 深度 Q 强化学习
1.1K40发布于 2018-08-21 - 来自专栏Python编程爱好者
机器学习必知必会 10 大算法！
---- 现在，机器学习有很多算法。如此多的算法，可能对于初学者来说，是相当不堪重负的。今天，我们将简要介绍 10 种最流行的机器学习算法，这样你就可以适应这个激动人心的机器学习世界了！ 10 人工神经网络（ANN） 人工神经网络（Artificial Neural Networks，ANN）可以处理大型复杂的机器学习任务。 除此之外，还需要处理深度学习。 人工神经网络的工作原理与大脑的结构类似。一组神经元被赋予一个随机权重，以确定神经元如何处理输入数据。通过对输入数据训练神经网络来学习输入和输出之间的关系。 现在，你已经了解了最流行的机器学习算法的基础介绍。你已经准备好学习更为复杂的概念，甚至可以通过深入的动手实践来实现它们。 如果你想了解如何实现这些算法，可以参考 Educative 出品的 Grokking Data Science 课程，该课程将这些激动人心的理论应用于清晰、真实的应用程序。 祝你学习愉快！
1.2K20编辑于 2022-12-20 - 来自专栏Datawhale专栏
机器学习必知必会10大算法！
作者：Fahim ul Haq，编译：InfoQ 现在，机器学习有很多算法。如此多的算法，可能对于初学者来说，是相当不堪重负的。 今天，我们将简要介绍 10 种最流行的机器学习算法，这样你就可以适应这个激动人心的机器学习世界了！ 01 线性回归 线性回归（Linear Regression）可能是最流行的机器学习算法。 10 人工神经网络（ANN） 人工神经网络（Artificial Neural Networks，ANN）可以处理大型复杂的机器学习任务。 除此之外，还需要处理深度学习。 人工神经网络的工作原理与大脑的结构类似。一组神经元被赋予一个随机权重，以确定神经元如何处理输入数据。通过对输入数据训练神经网络来学习输入和输出之间的关系。 如果你想了解如何实现这些算法，可以参考 Educative 出品的 Grokking Data Science 课程，该课程将这些激动人心的理论应用于清晰、真实的应用程序。 祝你学习愉快！
86920编辑于 2022-04-08 - 来自专栏人工智能
机器学习新手必看10大算法
选自TowardsDataScience 作者：James Le 机器之心编译 参与：程耀彤、路雪 本文介绍了机器学习新手需要了解的 10 大算法，包括线性回归、Logistic 回归、朴素贝叶斯、K 如果我们知道的话，我们将会直接使用它，不需要用机器学习算法从数据中学习。 最常见的机器学习算法是学习映射 Y = f(X) 来预测新 X 的 Y。 对于想了解机器学习基础知识的新手，本文将概述数据科学家使用的 top 10 机器学习算法。 1. 线性回归 线性回归可能是统计学和机器学习中最知名和最易理解的算法之一。 诀窍在于如何确定数据实例间的相似性。如果属性的度量单位相同（例如都是用英寸表示），那么最简单的技术是使用欧几里得距离，你可以根据每个输入变量之间的差值直接计算出来其数值。 如果你用方差较高的算法（如决策树）得到了很好的结果，那么通常可以通过 bagging 该算法来获得更好的结果。 10.
1K90发布于 2018-02-02 - 来自专栏文章翻译
如何实现机器学习算法
在代码中实现一个机器学习算法可以教你很多关于算法和它的工作原理。 在这篇文章中，您将学习如何有效地实现机器学习算法，以及如何最大限度地从这些项目中学习。 算法理解 实现一个机器学习算法将给你一个关于算法如何工作的深刻和实际的理解。这些知识还可以帮助您对算法的数学描述深化理解，即将向量和矩阵看作是数组，以及对这些结构进行转换的计算直觉。 您正在进行有针对性的研究，并学习如何阅读和实际使用学术出版物。 流程 你能跟着一个流程走，这个流程可以来加速你的学习能力和从零开始手动实现机器学习算法的能力。 程序员（比如数学家）在抽象方面有着独特的技能，你可以看到算法是如何被应用到更一般的一类问题或其他问题的。 限制 你可以通过动手实现机器学习算法学到很多东西，但是也要记住一些缺点。 在考虑如何将其改变为编程不够优雅，但在计算上更高效之前，您可能会发现从较慢直观的复杂算法实现开始是有益的。 示例项目 一些算法比其他算法更容易理解。
93390发布于 2018-02-08 如何实现机器学习算法
在代码中实现一个机器学习的算法能够使你更加了解该算法以及其工作机理。 在这篇文章中，你将学习如何有效地实现机器学习方面的算法，以及最大限度地从中有所收获。 实现机器学习算法的好处 对于如何运用机器学习这一问题，你可以将实现机器学习算法作为一种解决方案。而且你还能够挖掘算法实现方面的相关基础知识以及技能。 算法的理解 实现一个机器学习算法后，你将会对算法是如何工作有一个深刻且实际的印象。通过思考如何将向量和矩阵转化为数组以及这些转化背后的计算直觉，这些知识还能够帮助你理解算法数学描述的内在。 你不得不查找以及阅读算法的多个规范和正式描述。你也可能找到并编写代码来检查算法的其他实现，以验证你的理解。你正在进行有针对性的研究，并学习如何阅读和实际运用上关于该研究的出版物。 对代码进行良好注释并确保提供有关如何构建和使用它的说明。这个项目能够为你正在学习的技能提供市场，甚至可以会为其他正准备进入机器学习领域的人提供灵感和帮助。
1.2K100发布于 2018-02-02如何研究机器学习算法
算法是机器学习领域的重要组成部分。 您需要了解哪些算法在那里，以及如何有效地使用它们。 简化这一知识的简单方法是查看已知的算法，并对其进行研究。 你可以描述一个算法如何作为一个数学方法，但要理解它的行为在实践中，你必须研究它的行动。 您可以通过对算法进行实验，将其应用于很多问题，并提炼出其行为方式，以及如何在面对不同的问题类型时揭露和利用这些行为。 或者，您可以采取的捷径是深入了解其他人在您之前了解的算法。 4.用法启发式来源 在实际应用中研究机器学习算法时，使用启发式算法和最佳实践可能是您感兴趣的关键信息类型。 使用启发式源提供了一个关于如何在实践中使用给定的机器学习算法的专家描述。 这些资源是由专家或半专家在图书馆和工具中作为例子提供机器学习算法的实现。样本可能会根据许可或开源许可证发布，供您学习。 这些资源是很好的想法如何给机器学习算法可以被转换成一个可执行和可用的系统。
1.9K70发布于 2018-02-23- 来自专栏啄木鸟软件测试
机器学习测试笔记（10）——K邻近算法
监督学习和非监督学习 我们谈起机器学习经常会听到监督学习和非监督学习，它们的区别在哪里呢？监督学习是有标签的，而非监督学习是没有标签的。 比如有一批酒，我们知道里面包括红酒和白酒，算法f可以用于鉴别某一个酒是否为红酒和白酒，这时候算法f就称作为监督学习，红酒、白酒即为标签。 如果现在另有一批酒，我们知道里面包括不同品种的酒，但是不知道有几类，算法g可以把相同类别的酒归为一类，不同类别的酒归为不同的类（比如：红酒、白酒、啤酒、米酒…）, 算法g就称作为非监督学习。 在监督学习中我们称作“分类”，在非监督学习中我们称作“聚类”。本文提到的K邻近算法属于监督学习内的“分类”算法。 不管如何，假设我们现在有一瓶酒，它的参数如下： Alcohol(酒精): 25.5 Malic acid(苹果酸):3.14 Ash(灰) : 3.22 Alcalinity of ash(灰分的碱性)
94710发布于 2021-01-04 - 来自专栏深度学习
最值得关注的10大深度学习算法
公众号：尤而小屋编辑：Peter作者：Peter大家好，我是Peter~今天给大家分享一下10大经典的深度学习算法。 首先，对比一下传统机器学习和深度学习的训练过程差异：下图展示了传统机器学习算法与深度学习技术在数据量方面的性能比较。从图表中可以明显看出，随着数据量的增加，深度学习算法的性能也随之提升。 这些隐藏层之间相互连接，用于让我们的模型学习如何给出最终输出。通过增加隐藏层的数量，深度神经网络能够处理更复杂的数据和任务，捕捉数据中的高级抽象特征。 下面介绍值得关注和学习的10个深度学习算法：多层感知机Multilayer Perceptrons (MLPs)径向基函数网络Radial Basis Function Networks (RBFNs) 如何确定网络结构RBFN（径向基函数网络）使用试错法来确定网络的结构，这一过程主要分为两个步骤：在第一阶段，使用无监督学习算法（如k-均值聚类）来确定隐藏层的中心。
1.3K11编辑于 2024-07-19
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号