数据科学之机器学习子篇——什么是RF

“做一个善于倾听的人，鼓励别人多谈谈自己” -- 《人性的弱点》

今天我就给大家来简单的介绍一下RF。全文分为三个部分：一、RF的概念介绍；二、RF的有缺点；三、RF为什么要进行有放回抽样？

一、RF的概念介绍

RF是Random Forest的简称，中文随机森林。

今天我就给大家来简单的介绍一下RF。

作为新兴起的、高度灵活的一种机器学习算法，RF拥有广泛的应用前景，从市场营销到医疗保健保险，既可以用来做市场营销模拟的建模，统计客户来源，保留和流失，也可用来预测疾病的风险和病患者的易感性。最近几年的国内外大赛，包括2014年阿里巴巴天池大数据竞赛以及Kaggle数据科学竞赛，参赛者对RF的使用占有相当高的比例。此外，据小白的个人了解来看，一大部分成功进入答辩的队伍也都选择了RF或者 GBDT算法（怎么样？吃透了GBDT，是不是搞定机器学习70%的工作）。所以可以看出，RF在准确率方面还是相当有优势的。

　　那说了这么多，那RF到底是怎样的一种算法呢？

　　RF就是通过集成学习的思想将多棵树集成的一种算法，它的基本单元是决策树，而它的本质属于机器学习的一大分支——集成学习（Ensemble Learning）方法。RF的名称中有两个关键词，一个是“随机”，一个就是“森林”。“森林”我们很好理解，一棵叫做树，那么成百上千棵就可以叫做森林了，这样的比喻还是很贴切的，其实这也是随机森林的主要思想--集成思想的体现。“随机”的含义实际上表述了一种样本选择的策略，后续会有详细介绍。

其实从直观角度来解释，每棵决策树都是一个分类器（假设现在针对的是分类问题），那么对于一个输入样本，N棵树会有N个分类结果。而RF集成了所有的分类投票结果，将投票次数最多的类别指定为最终的输出，这就是一种最简单的 Bagging 思想。

二、RF的有缺点

优点 :

1、 几乎不需要输入准备.它们可以处理二元特征，分类特征，数字特征，并且不需要任何缩放处理.

2、 在当前所有算法中，具有极好的准确率；

3、 能够有效地运行在大数据集上；

4、 能够处理具有高维特征的输入样本，而且不需要降维；

5、 能够评估各个特征在分类问题上的重要性；

6、 在生成过程中，能够获取到内部生成误差的一种无偏估计；

7、 对于缺省值问题也能够获得很好得结果；

8、 可实现隐式特征选择，并且提供一个很好的特征重要性指标；

9、 通用性；随机森林适用于各种各样的建模工作，它们可以很好的处理回归任务和分类任务（甚至产生体面的校正的概率分数），它就相当于机器学习领域的Leatherman（多面手），你几乎可以把任何东西扔进去，它基本上都是可供使用的.在估计推断映射方面特别好用，以致都不需要像SVM那样做很多参数的调试.

缺点：

1、 随机森林的主要劣势在于模型大小.你可能需要数百兆的内存才能轻松地结束一个森林，而且评估的速度也很慢.

2、 另外一点，有些人可能会发现一个问题，也就是随机森林模型其实是个很难去解释的黑盒子.

三、RF 为什么要有放回地抽样：

如果不是有放回的抽样，那么每棵树的训练样本都是不同的，都是没有交集的，这样每棵树都是"有偏的"，都是绝对"片面的"，也就是说每棵树训练出来都是有很大的差异的；而随机森林最后分类取决于多棵树（弱分类器）的投票表决，这种表决应该是"求同"，因此使用完全不同的训练集来训练每棵树这样对最终分类结果是没有帮助的

1）如果每个样本的特征维度为M，指定一个常数m<<M，随机地从M个特征中选取m个特征子集，每次树进行分裂时，从这m个特征中选择最优的；

2） 每棵树都尽最大程度的生长，并且没有剪枝过程.

RF中的“随机”就是指的这里的两个随机性.两个随机性的引入对随机森林的分类性能至关重要.由于它们的引入，使得RF不容易陷入过拟合，并且具有很好得抗噪能力（比如：对缺省值不敏感）.

RF分类效果（错误率）与两个因素有关：

1）森林中任意两棵树的相关性：相关性越大，错误率越大；

2）森林中每棵树的分类能力：每棵树的分类能力越强，整个森林的错误率越低.

减小特征选择个数m，树的相关性和分类能力也会相应的降低；增大m，两者也会随之增大.所以关键问题是如何选择最优的m（或者是范围），这也是RF唯一的一个参数。

随机森林

版权申明：本文为数据科学小白原创文章，授权头条号发表，转载请注明出处。

参考文献：

1、百度百科

阀门常用英文简写

相关问答

法兰标准中的SO、WN、RF牛、PL各代表什么意思-ZOL问答

标准主要有两个体系:以德国及原苏联为代表的欧洲管法兰体系和以美国ANSI为名称...RF——密封面形式代号,密封面形式为“突面”。根据你说的型号应该是化工部HG...

老师，请问如何区分?Rm一Rf跟Rm_快账

市场上所有股票的平均风险收益率即为Rm-Rf;而市场上所有股票平均收益率即为Rm。(1)(Rm-Rf)的常见叫法有:市场风险溢酬、风险价格、平均风险收益率...

Rm和Rm-Rf是不是有很多名字啊?是什么呀?怎么区分?

不是指令,是控制台命令。命令的名字是rm,单词remove(删除)的缩写。r是给rm加入递归(recursion)特性,也就是目标为文件夹时删除文件夹下所有数据。f给rm加入...

【各国的货币名称英文缩写是什么】作业帮

[最佳回答]货币名称货币符号人民币RMB美元USD日元JPY欧元EUR英镑GBP德国马克DEM瑞士法郎CHF法国法郎FRF加拿大元CAD澳大利亚元AUD港币HKD...

丁香酚的Rf值–960化工网问答

丁香挥发油在TLC中Rf,所用的是硅胶G最佳答案都在这了!!中文名称]丁香酚[英文名称]Eugenol[别名]丁香油酚Eugenicacid,Coryophyllicaci...

【飞卡什么意思】作业帮

[回答]飞卡,技术名称为RF-SIM,是用于手机的用户身份识别多用途卡.飞卡创飞卡,技术名称为RF-SIM,是用于手机的用户身份识别多用途卡.飞卡创新性地将无线射...

三点水一个堑是什么字?

三点水一个堑是壍字,读作:qiàn。注音:ㄑㄧㄢˋ部首:土笔画:17繁体:壍五行:火UniCode:U+58CD四角号码:32104仓颉:XELGGBK编码:89B5五笔...

关于人孔名称的问题-盖德问答-化工人互助问答社区

rf,ⅶ,s-35cml,(wd-2222),600,1.6密封面,材质,螺栓材质,垫片型号材质,人孔大小,公称压力你没看关键的地方,人孔前面应该有个图号或标准号,按照这...

满族头发名称?

满族头发的名称是“滿洲髮”(mǎnzhōufǎ),也称为“达斡尔发”(dáwòěrfā)或“通古斯发”(tōnggǔsīfā)。满族传统上重视发型的整齐与精致,男性常...

Linux删除文件的命令?

1、删除文件命令rm-f文件名将会强行删除文件,且无提示需要注意:使用rm-rf要格外注意,linux中没有回收站,慎重删除2、删除文件夹以及文件夹中的所有文...