林轩田机器学习基石课程学习笔记7 — The VC Dimension
22红色石头 发布于 2018-07-24
本节课主要介绍了VC Dimension的概念就是最大的non-break point。然后,我们得到了Perceptrons在d维度下的VC Dimension是d+1。接着,我们在物理意义上,将VC Dimension与自由度联系起来。最终得出结论VC Dimension不能...
阅读(11120)评论(0)赞 (6)
红色石头 发布于 2018-07-24
本节课主要介绍了VC Dimension的概念就是最大的non-break point。然后,我们得到了Perceptrons在d维度下的VC Dimension是d+1。接着,我们在物理意义上,将VC Dimension与自由度联系起来。最终得出结论VC Dimension不能...
阅读(11120)评论(0)赞 (6)
红色石头 发布于 2018-07-24
上一节课,我们主要探讨了当M的数值大小对机器学习的影响。如果M很大,那么就不能保证机器学习有很好的泛化能力,所以问题转换为验证M有限,即最好是按照多项式成长。然后通过引入了成长函数m_H(N)和dichotomy以及break point的概念,提出2D perceptrons的...
阅读(14348)评论(0)赞 (10)
红色石头 发布于 2018-07-23
本节课,我们更深入地探讨了机器学习的可行性。我们把机器学习拆分为两个核心问题。对于第一个问题,我们探讨了M个hypothesis到底可以划分为多少种,也就是成长函数。并引入了break point的概念,给出了break point的计算方法。下节课,我们将详细论证对于2D pe...
阅读(13498)评论(4)赞 (8)
红色石头 发布于 2018-07-23
上节课,我们主要介绍了根据不同的设定,机器学习可以分为不同的类型。其中,监督式学习中的二元分类和回归分析是最常见的也是最重要的机器学习问题。本节课,我们将介绍机器学习的可行性,讨论问题是否可以使用机器学习来解决。 一、Learning is Impossible 首先,考虑这样一...
阅读(12487)评论(0)赞 (25)
红色石头 发布于 2018-07-23
本节课主要介绍了机器学习的类型,包括Out Space、Data Label、Protocol、Input Space四种类型。...
阅读(11510)评论(0)赞 (8)
红色石头 发布于 2018-07-23
本节课主要介绍了线性感知机模型,以及解决这类感知机分类问题的简单算法:PLA。我们详细证明了对于线性可分问题,PLA可以停下来并实现完全正确分类。对于不是线性可分的问题,可以使用PLA的修正算法Pocket Algorithm来解决。...
阅读(19848)评论(4)赞 (49)
红色石头 发布于 2018-07-23
本节课主要介绍了什么是机器学习,什么样的场合下可以使用机器学习解决问题,然后用流程图的形式展示了机器学习的整个过程,最后把机器学习和数据挖掘、人工智能、统计这三个领域做个比较。本节课的内容主要是概述性的东西,比较简单,所以笔记也相对比较简略。...
阅读(27296)评论(0)赞 (126)