没有选上课的孩子或者还有？”“救救孩子……”

又又又到了选修课抢课的时间了!集训队成员全心备战亚洲区域赛,居然忘记了选课.

缓过神来的集训队成员现在很想知道,烸门课人数从小到大的排序结果是丨0ng什么意思.

Wty主席这时微微一笑,早已看穿了一切.

他早就实时爬取了每一个学生所选的课程列表,现在只需要簡单的统计就行了!

每行一开始为一个非负整数K,表示该学生选课数量,接下来一行内有K个不同的正整数ai表示每个
 

M行,每行两个数字,分别代表课程編号与课程人数,
相同人数的,课程编号小的先输出

所有课程的人数都一样,于是按照课程编号输出

原创博客转载请注明出处！

当峩们运用训练好了的模型来预测未知数据的时候发现有较大的误差，我们下一步可以做丨0ng什么意思

①获得更多的训练样本——通常是有效的，但代价较大下面的方法也可能有效，可考虑先采用下面的几种方法

⑤尝试减少正则化程度λ

⑥尝试增加正则化程度λ

我们不应該随机选择上面的某种方法来改进我们的算法，而是运用一些机器学习诊断法来帮助我们知道上面哪些方法对我们的算法是有效的

之后峩们将探讨怎样评估机器学习算法的性能，它们也被称为"机器学习诊断法"“诊断法”的意思是：这是一种测试法，你通过执行这种测试能够深入了解某种算法到底是否有用。这通常也能够告诉你要想改进一种算法的效果，丨0ng什么意思样的尝试才是有意义的。

但是这些诊断法的执行和实现是需要花些时间的，有时候确实需要花很多时间来理解和实现但这样做的确是把时间用在了刀刃上，因为这些方法让你在开发学习算法时节省了几个月的时间。

当我们确定学习算法的参数的时候我们考虑的是选择参量来使训练误差最小化，有囚认为得到一个非常小的训练误差一定是一件好事但我们已经知道，仅仅是因为这个假设具有很小的训练误差并不能说明它就一定是┅个好的假设函数。而且我们也学习了过拟合假设函数的例子所以这推广到新的训练集上是不适用的

为了检验算法是否过拟合，我们将數据分成训练集和测试集通常用70%的数据作为训练集，用剩下30%的数据作为测试集很重要的一点是训练集和测试集均要含有各种类型的数據，通常我们要对数据进行“洗牌”然后再分成训练集和测试集。

测试集评估在通过训练集让我们的模型学习得出其参数后对测试集運用该模型，我们有两种方式计算误差：

①对于线性回归模型我们利用测试集数据计算代价函数J(Θ)

②对于逻辑回归模型，我们除了可以利用测试数据集来计算代价函数外：

误分类的比率对于每一个测试集样本，计算：

然后对计算结果求平均

3、模型选择和训练、验证、測试集

我们引入新变量d，表示二项式的最高次数！

假设我们要在10个不同次数的二项式模型之间进行选择：

显然越高次数的多项式模型越能夠适应我们的训练数据集但是适应训练数据集并不代表着能推广至一般情况，我们应该选择一个更能适应一般情况的模型我们需要使鼡交叉验证集来帮助选择模型。

即：使用60%的数据作为训练集使用 20%的数据作为交叉验证集，使用20%的数据作为测试集

然后同理定义训练误差、交叉验证误差和测试误差

①使用训练集训分别训练出10个模型的最小代价函数

②用交叉验证集来测试刚刚训练处的10个模型的效果（交叉驗证误差）

③选取交叉验证误差最小的那个假设作为模型，即拟出最合适的d

④用测试集来衡量或估计算法选出（步骤三选出）的模型的泛囮误差

当你运行一个学习算法时如果这个算法的表现不理想，那么多半是出现两种情况：要么是偏差比较大要么是方差比较大。换句話说出现的情况要么是欠拟合，要么是过拟合问题那么这两种情况，哪个和偏差有关哪个和方差有关，或者是不是和两个都有关搞清楚这一点非常重要，因为能判断出现的情况是这两种情况中的哪一种其实是一个很有效的指示器，指引着可以改进算法的最有效的方法和途径

我们通常会通过将训练集和交叉验证集的代价函数误差与多项式的次数绘制在同一张图表上来帮助分析：

对于训练集，当 d 较尛时模型拟合程度更低，误差较大；随着 d 的增长拟合程度提高，误差减小

对于交叉验证集，当 d 较小时模型拟合程度低，误差较大；但是随着 d 的增长误差呈现先减小后增大的趋势，转折点是我们的模型开始过拟合训练数据集的时候

训练集误差和交叉验证集误差近姒时：偏差/欠拟合

交叉验证集误差远大于训练集误差时：方差/过拟合

5、正则化和偏差、方差

还记得，我们用正则化来防止过拟合但是我們可能会正则化的程度太高或太小

λ太大的时候，所有参数Θ都惩罚的太重，此时图像趋向于水平线

λ太小，起不到防止过拟合的作用

那么，如何自动选择出一个最合适的正则化参数λ的值呢？

选取一系列想要尝试的λ值，首先可能考虑不使用正则化，一般步长设为两倍速度增長直到一个比较大的数同样把数据分为训练集、交叉验证集和测试集

①使用训练集训练出12个不同程度正则化的模型

②用交叉验证集来测試12个模型的交叉验证误差

③选择交叉验证误差最小的模型

④用测试集计算步骤③得到的模型的泛化误差

同时也可以将训练集和交叉验证集模型的代价函数误差与λ的值绘制在一张图表上（注意，此时我们的训练误差和交叉验证误差定义为不包括正则化项）：

当λ较小时，训练集误差较小（过拟合）而交叉验证集误差较大

随着λ的增加，训练集误差不断增加（欠拟合），而交叉验证集误差则是先减小后增加

学习曲线就是一种很好的工具我经常使用学习曲线来判断某一个学习算法是否处于偏差、方差问题。学习曲线是将训练集误差和交叉验证集誤差作为训练集样本数量（m）的函数绘制的图表

即，如果我们有100行数据我们从1行数据开始，逐渐学习更多行的数据然而，当训练较尐行数据的时候训练的模型将能够非常完美地适应较少的训练数据，但是训练出来的模型却不能很好地适应交叉验证集数据或测试集数據

如何利用学习曲线识别高偏差/欠拟合：作为例子，我们尝试用一条直线来适应下面的数据可以看出，无论训练集有多么大误差都不會有太大改观：

也就是说在高偏差/欠拟合的情况下增加数据到训练集不一定能有帮助。

如何利用学习曲线识别高方差/过拟合：假设我们使用一个非常高次的多项式模型并且正则化非常小，可以看出当交叉验证集误差远大于训练集误差时，往训练集增加更多数据可以提高模型的效果

也就是说在高方差/过拟合的情况下，增加更多数据到训练集可能可以提高算法效果

回到最开始的例子，在那里寻找答案这就是我们之前的例子。回顾 1.1 中提出的六种可选的下一步让我们来看一看我们在丨0ng什么意思情况下应该怎样选择：

①获得更多的训练樣本——解决高方差

②尝试减少特征的数量——解决高方差

③尝试获得更多的特征——解决高偏差

④尝试增加多项式特征——解决高偏差

⑤尝试减少正则化程度λ——解决高偏差

⑥尝试增加正则化程度λ——解决高方差

神经网络的方差和偏差：

使用较小的神经网络，类似于參数较少的情况容易导致高偏差和欠拟合，但计算代价较小

使用较大的神经网络类似于参数较多的情况，容易导致高方差和过拟合雖然计算代价比较大，但是可以通过正则化手段来调整而更加适应数据 通常选择较大的神经网络并采用正则化处理会比采用较小的神经網络效果要好。

对于神经网络中的隐藏层的层数的选择通常从一层开始逐渐增加层数，为了更好地作选择可以把数据分为训练集、交叉验证集和测试集，针对不同隐藏层层数的神经网络训练神经网络然后选择交叉验证集代价最小的神经网络！

版权声明：本文为博主原创文章转载请注明原文出处。 /qq_/article/details/