集成学习实战：基于集成学习方法完成鸢尾花卉品种预测详细教程_办公生活

集成学习实战：基于集成学习方法完成鸢尾花卉品种预测详细教程

创始人

2024-02-03 09:35:22

1 集成学习

集成学习不是一种算法，而是一种算法框架，将多种基础算法集合在一起共同决策。

例如以分类器为例，现在学习了多个分类器 $f_1(x),f_2(x),f_3(x),...,$ 同时这些分类器要具有差异度，这里的差异度就像《王者荣耀》里的5个位置一样，各司其职，相辅相成，然后再用某种策略将这多个分类器应用到数据当中，共同决策最后的分类结果，以取得比单个分类器都要好的分类能力。在以往很多数据挖掘比赛中，集成学习往往是夺得冠军的秘诀之一。

集成学习可以分为两类，一类是降低了模型方差，如Bagging（Boostrop Aggregating）；另一类是降低了模型偏差，如Boosting和stacking。

1.1.1 偏差和方差

在讲Bagging和Boosting之前，首先简单讲下模型的偏差和方差，如图1.1所示。

有监督学习算法中，模型的泛化误差来源于偏差和方差。

偏差：当我们在所有采样的数据集中训练出多个模型，这些模型的输出期望值和真实模型的输出之间的差距，也就是图1.1中靶心和射击的期望得分之间的差距。一般偏差过大是因为假设的模型过于简单，从而无法准确拟合训练数据导致的。因而想要偏差较小，可以选择复杂的模型来拟合数据。
方差：当我们在所有采样的数据集中训练出多个模型，这些模型的输出方差。当模型的输出较为集中时，此时模型的方差较小；当模型的输出较为分散时，此时模型的方差较大。一般模型越复杂的时候，会带来过拟合问题，从而使得模型在测试数据集上表现不佳，即方差较大。

上一篇：与魏人物有关的文字

下一篇：2. Java线程模型

热门资讯

我喜欢你韩语怎么说 sikid...

埃菲尔铁塔在哪中国仿建埃菲尔... 2019年4月26日，广西南宁市，街头惊现一座巨型山寨版埃菲尔铁塔，高约20米，白色塔身，造型逼真，...

苗族的传统节日贵州苗族节日有... 【岜沙苗族芦笙节】岜沙，苗语叫“分送”，距从江县城7.5公里，是世界上最崇拜树木并以树为神的枪手部落...

北京的名胜古迹北京最著名的景... 北京从元代开始，逐渐走上帝国首都的道路，先是成为大辽朝五大首都之一的南京城，随着金灭辽，金代从海陵王...

应用未安装解决办法平板应用未... ---IT小技术，每天Get一个小技能！一、前言描述苹果IPad2居然不能安装怎么办？与此IPad不...

脚上的穴位图脚面经络图对应的... 人体穴位作用图解大全更清晰直观的标注了各个人体穴位的作用，包括头部穴位图、胸部穴位图、背部穴位图、胳...

长白山自助游攻略吉林长白山游... 昨天介绍了西坡的景点详细请看链接：一个人的旅行，据说能看到长白山天池全凭运气，您的运气如何？今日介绍...

世界上最漂亮的人世界上最漂亮... 此前在某网上，选出了全球265万颜值姣好的女性。从这些数量庞大的女性群体中，人们投票选出了心目中最美...

demo什么意思 demo版本... 618快到了，各位的小金库大概也在准备开闸放水了吧。没有小金库的，也该向老婆撒娇卖萌服个软了，一切只...

猫咪吃了塑料袋怎么办猫咪误食... 你知道吗？塑料袋放久了会长猫哦！要说猫咪对塑料袋的喜爱程度完完全全可以媲美纸箱家里只要一有塑料袋的响...