数据科学之机器学习子篇——什么是RF

“做一个善于倾听的人，鼓励别人多谈谈自己” -- 《人性的弱点》

今天我就给大家来简单的介绍一下RF。全文分为三个部分：一、RF的概念介绍；二、RF的有缺点；三、RF为什么要进行有放回抽样？

一、RF的概念介绍

RF是Random Forest的简称，中文随机森林。

今天我就给大家来简单的介绍一下RF。

作为新兴起的、高度灵活的一种机器学习算法，RF拥有广泛的应用前景，从市场营销到医疗保健保险，既可以用来做市场营销模拟的建模，统计客户来源，保留和流失，也可用来预测疾病的风险和病患者的易感性。最近几年的国内外大赛，包括2014年阿里巴巴天池大数据竞赛以及Kaggle数据科学竞赛，参赛者对RF的使用占有相当高的比例。此外，据小白的个人了解来看，一大部分成功进入答辩的队伍也都选择了RF或者 GBDT算法（怎么样？吃透了GBDT，是不是搞定机器学习70%的工作）。所以可以看出，RF在准确率方面还是相当有优势的。

　　那说了这么多，那RF到底是怎样的一种算法呢？

　　RF就是通过集成学习的思想将多棵树集成的一种算法，它的基本单元是决策树，而它的本质属于机器学习的一大分支——集成学习（Ensemble Learning）方法。RF的名称中有两个关键词，一个是“随机”，一个就是“森林”。“森林”我们很好理解，一棵叫做树，那么成百上千棵就可以叫做森林了，这样的比喻还是很贴切的，其实这也是随机森林的主要思想--集成思想的体现。“随机”的含义实际上表述了一种样本选择的策略，后续会有详细介绍。

其实从直观角度来解释，每棵决策树都是一个分类器（假设现在针对的是分类问题），那么对于一个输入样本，N棵树会有N个分类结果。而RF集成了所有的分类投票结果，将投票次数最多的类别指定为最终的输出，这就是一种最简单的 Bagging 思想。

二、RF的有缺点

优点 :

1、 几乎不需要输入准备.它们可以处理二元特征，分类特征，数字特征，并且不需要任何缩放处理.

2、 在当前所有算法中，具有极好的准确率；

3、 能够有效地运行在大数据集上；

4、 能够处理具有高维特征的输入样本，而且不需要降维；

5、 能够评估各个特征在分类问题上的重要性；

6、 在生成过程中，能够获取到内部生成误差的一种无偏估计；

7、 对于缺省值问题也能够获得很好得结果；

8、 可实现隐式特征选择，并且提供一个很好的特征重要性指标；

9、 通用性；随机森林适用于各种各样的建模工作，它们可以很好的处理回归任务和分类任务（甚至产生体面的校正的概率分数），它就相当于机器学习领域的Leatherman（多面手），你几乎可以把任何东西扔进去，它基本上都是可供使用的.在估计推断映射方面特别好用，以致都不需要像SVM那样做很多参数的调试.

缺点：

1、 随机森林的主要劣势在于模型大小.你可能需要数百兆的内存才能轻松地结束一个森林，而且评估的速度也很慢.

2、 另外一点，有些人可能会发现一个问题，也就是随机森林模型其实是个很难去解释的黑盒子.

三、RF 为什么要有放回地抽样：

如果不是有放回的抽样，那么每棵树的训练样本都是不同的，都是没有交集的，这样每棵树都是"有偏的"，都是绝对"片面的"，也就是说每棵树训练出来都是有很大的差异的；而随机森林最后分类取决于多棵树（弱分类器）的投票表决，这种表决应该是"求同"，因此使用完全不同的训练集来训练每棵树这样对最终分类结果是没有帮助的

1）如果每个样本的特征维度为M，指定一个常数m<<M，随机地从M个特征中选取m个特征子集，每次树进行分裂时，从这m个特征中选择最优的；

2） 每棵树都尽最大程度的生长，并且没有剪枝过程.

RF中的“随机”就是指的这里的两个随机性.两个随机性的引入对随机森林的分类性能至关重要.由于它们的引入，使得RF不容易陷入过拟合，并且具有很好得抗噪能力（比如：对缺省值不敏感）.

RF分类效果（错误率）与两个因素有关：

1）森林中任意两棵树的相关性：相关性越大，错误率越大；

2）森林中每棵树的分类能力：每棵树的分类能力越强，整个森林的错误率越低.

减小特征选择个数m，树的相关性和分类能力也会相应的降低；增大m，两者也会随之增大.所以关键问题是如何选择最优的m（或者是范围），这也是RF唯一的一个参数。

随机森林

版权申明：本文为数据科学小白原创文章，授权头条号发表，转载请注明出处。

参考文献：

1、百度百科

RF、RA傻傻分不清？

很多患者看了自己的检测单，对RF、RA不是很了解，甚至会对自己的病情产生一定的误解，那么RF值偏好就等于类风湿(RA)吗？

什么是RA?

类风湿关节炎（RA）是一种慢性、全身性炎症性、侵蚀性关节炎为特征的疾病，属于自身免疫性疾病。是弥漫性结缔组织病的一种，而女性的发病率是男性2~3倍。是一种以关节滑膜炎为特征的慢性全身性免疫性疾病，滑膜炎持久反复发作，会导致关节内部的破坏，关节功能障碍甚至残废。

什么是RF?

RF其实也是抗体，是针对已经变性的IgG抗体Fc片段上抗原成分产生的自身抗体。我们可以将RF理解为针对体内抗体的抗体。

RF包括IgM、IgA、IgG、IgD、IgE五型，这些抗体与IgG的Fc段结合，介导一系列的生物学反应。比如：调节体内免疫反应；激活补体，加快清除微生物感染；清除免疫复合物使机体免受循环复合物的损伤；参与骨质破坏等。

RA与RF的关系？

RF主要见于类风湿关节炎（RA）， 是诊断RA的指标之一。不过，只有70%的类风湿关节炎(RA)会表现出RF阳性。其他疾病及部分健康人RF也可阳性。在正常人中也有5%的RF阳性率，并且随着年龄的增大其阳性率也会增高。

所以说，RF是诊断类风湿关节炎（RA）的重要标准之一，但不是唯一的标准。RF只是其中一项，因此不能单凭RF阳性就诊断类风湿关节炎（RA），出现RF阳性还有可能是其他疾病。

类风湿患者们，一定要了解类风湿的相关小知识，才能有效预防和控制类风湿的发展。

相关问答

RF是什么含义?

RF(射频识别)它是一种高频交流变化电磁波的简称。一种通信技术,可通过无线电讯号识别特定目标并读写相关数据,而无需识别系统与特定目标之间建立机械或光学...

RF是什么?

RF表示的是是射频,是RadioFrequency的缩写。射频表示可以辐射到空间的电磁频率,频率范围从300kHz~300GHz之间。射频就是射频电流,简称RF,它是一种高频交流...

RF是什么意思?

RF是RadioFrequency的缩写,表示可以辐射到空间的电磁频率,频率范围从300KHz~30GHz之间。射频简称RF,射频就是射频电流,它是一种高频交流变化电磁波的简称...

什么是RF?

射频RF表示的是是射频,是RadioFrequency的缩写。射频表示可以辐射到空间的电磁频率,频率范围从300kHz~300GHz之间。射频就是射频电流,简称RF,它是一种高频...

RF是什么意思?

RF是射频(RF).是RadioFrequency的缩写,表示可以辐射到空间的电磁频率,频率范围从300kHz~300GHz之间。射频就是射频电流,简称RF,它是一种高频交流变化电磁...

RF表示什么?

RF表示的是是射频,是RadioFrequency的缩写。射频表示可以辐射到空间的电磁频率,频率范围从300kHz~300GHz之间。射频就是射频电流,简称RF,它是一种高频交流...

RF是什么意思?

射频(RF)是RadioFrequency的缩写,表示可以辐射到空间的电磁频率,频率范围从300KHz~30GHz之间。射频简称RF射频就是射频电流,它是一种高频交流变化电磁波...

RF是什么意思啊?

RF是RadioFrequency的缩写,即射频。在电子学理论中,电流流过导体,导体周围会形成磁场;交变电流通过导体,导体周围会形成交变的电磁场,称为电磁波。在电磁...

RF什么意思?

是指电磁频率(RadioFrequency)的縮写。RF是RadioFrequency的缩写,表示可以辐射到空间的电磁频率,频率范围从300KHz~30GHz之间。是指电磁频率(RadioFr...

RF的意思是什么?

射频。RF,是指射频,是RadioFrequency的缩写。射频表示可以辐射到空间的电磁频率,频率范围从300kHz~300GHz之间,它是一种高频交流变化电磁波的简称。射频。...