基于随机森林的犯罪风险预测模型研究

王雨晨; 过仲阳; 王媛媛

doi:10.3969/j.issn.1000-5641.2017.04.008

基于随机森林的犯罪风险预测模型研究

doi: 10.3969/j.issn.1000-5641.2017.04.008

华东师范大学地理科学学院, 上海 200241

基金项目:

国家自然科学基金人才培养项目 J1310028

详细信息

作者简介:
王雨晨, 男, 硕士研究生, 研究方向为数据挖掘.E-mail:wangyc_ecnu@qq.com

通讯作者:
过仲阳, 男, 教授, 博士生导师, 研究方向为数据挖掘和遥感图像处理.E-mail:zyguo@geo.ecnu.edu.cn

中图分类号: TP18
计量
- 文章访问数: 240
- HTML全文浏览量: 85
- PDF下载量: 506
- 被引次数: 0
出版历程
- 收稿日期: 2016-06-28
- 刊出日期: 2017-07-25

A forecasting model of crime risk based on random forest

School of Geographic Sciences, East China Normal University, Shanghai 200241, China

摘要

摘要: 犯罪预测是犯罪预防的前提，也是公安部门亟待解决的问题.随机森林作为一种组合分类方法，具有准确率高、速度快、性能稳定的特性，且能够给出指标重要性评价，本文将其应用于犯罪风险预测中.实验证明，随机森林方法选出的指标集可以显著地提高预测准确率，基于该方法构建的预测模型相较于神经网络与支持向量机具有更高的准确性和稳定性，能够满足犯罪风险预测的需求.
- 随机森林 /
- 犯罪风险预测 /
- 指标集选择
Abstract: Crime prediction has always been an outstanding issue for public security department. Random forest is a combined classification method with high accuracy, high speed, and stable performance, which is suitable for solving the problem of predicting crime risk. In the meantime, this method can choose the index group for predicting crime risk more objectively. As proved by studies, the index group chosen by random forest method can significantly improve the accuracy of prediction, and the predictive model based of this method is more accurate and stable, so it can meet the demand of crime risk prediction.
- random forest /
- crime risk prediction /
- index group selection

HTML全文

图 1 不同标准下的指标重要性排序

Fig. 1 Importance order of the variables using different measure

下载: 全尺寸图片幻灯片

图 2 同指标集的OOB误差率

Fig. 2 OOB error rates of different variables sets

下载: 全尺寸图片幻灯片

表 1 指标名称及编号

Tab. 1 ID of the variables

指标名称	编号	指标名称	编号	指标名称	编号
性别	101	民族	106	经济状况	111
年龄	102	婚姻状况	107	有无固定职业	112
身高	103	文化程度	108	是否本区居住人口	113
体重	104	政治面貌	109	有无吸毒史	114
籍贯	105	身份	110	社会关系犯罪记录	115

下载: 导出CSV

表 2 指标重要性度量

Tab. 2 Importance of the variables using different measures

编号	Mean decrease in accuracy	Mean decrease in Gini
101	0.00503	19.63
102	0.03655	214.98
103	0.01385	136.85
104	0.01885	136.48
105	0.04228	295.13
106	0.00258	26.54
107	0.03430	119.25
108	0.02142	121.41
109	0.00002	6.51
110	0.00009	243.64
111	0.00291	20.58
112	0.00265	15.07
113	0.02571	57.73
114	0.05124	160.77
115	0.01888	72.81

下载: 导出CSV

表 3 各模型参数设置及相应结果

Tab. 3 Prediction accuracy for each model using different parameters

神经网络				支持向量机			随机森林
节点数	迭代数	更新率	准确率	gamma	损失	准确率	变量数	棵数	准确率
6	300	0.01	0.7287	0.01	50	0.7287	1	200	0.7694
7	300	0.01	0.7295	0.05	50	0.7538	2	200	0.7736
8	300	0.01	0.7473	0.1	50	0.7571	3	200	0.7703
9	300	0.01	0.7319	0.15	50	0.7409	4	200	0.7627
10	300	0.01	0.7336	0.2	50	0.7408	5	200	0.7602
8	100	0.01	0.7327	0.1	1	0.7287	2	50	0.7636
8	200	0.01	0.7327	0.1	20	0.7522	2	100	0.7711
8	300	0.01	0.7473	0.1	50	0.7571	2	200	0.7736
8	400	0.01	0.7392	0.1	70	0.7425	2	300	0.7661
8	500	0.01	0.7141	0.1	100	0.7352	2	400	0.7686
8	300	0.005	0.7344
8	300	0.01	0.7473
8	300	0.05	0.7295
8	300	0.1	0.7433
8	300	0.5	0.7311

下载: 导出CSV

表 4 各模型预测准确率

Tab. 4 Prediction accuracy for each data

实验次数	基准模型	神经网络			支持向量机			随机森林
实验次数	准确率	准确率	精度	召回率	准确率	精度	召回率	准确率	精度	召回率
1	0.5119	0.7045	0.7086	0.6703	0.7625	0.7950	0.6919	0.7625	0.7987	0.6865
2	0.5179	0.7377	0.7556	0.6733	0.7661	0.7680	0.7376	0.7924	0.8249	0.7228
3	0.5049	0.7696	0.7887	0.7427	0.7745	0.8065	0.7282	0.7990	0.8298	0.7573
4	0.5224	0.7413	0.7340	0.7188	0.7338	0.7179	0.7291	0.7637	0.7709	0.7188
5	0.5742	0.7321	0.6719	0.7247	0.7536	0.6943	0.7528	0.7847	0.7500	0.7416
6	0.5229	0.7012	0.6832	0.6970	0.7133	0.7026	0.6919	0.7349	0.7418	0.6818
7	0.5237	0.7417	0.7947	0.6833	0.7678	0.8154	0.7195	0.7725	0.8307	0.7104
8	0.5265	0.6984	0.6994	0.6369	0.7328	0.7191	0.7151	0.7619	0.7665	0.7151
9	0.5347	0.7404	0.7273	0.7072	0.7378	0.7207	0.7127	0.7661	0.7446	0.7569
10	0.5366	0.7234	0.8022	0.6432	0.7258	0.8000	0.6520	0.7612	0.8281	0.7004
均值	0.5276	0.7290	0.7366	0.6897	0.7468	0.7540	0.7131	0.7699	0.7886	0.7192
标准差	0.0189	0.0224	0.0472	0.0348	0.0208	0.0476	0.0286	0.0184	0.0378	0.0265
F分数			0.7124			0.7330			0.7523

下载: 导出CSV

参考文献(17)

[1]	赵军.我国犯罪预测及其研究的现状、问题与发展趋势[J].湖南大学学报(社会科学版), 2011, 25(3): 155-160. http://www.cnki.com.cn/Article/CJFDTOTAL-HDXB201103033.htm
[2]	金光, 钱家麒, 钱江波, 等.基于数据挖掘决策树的犯罪风险预测模型[J].计算机工程, 2003, 29(9): 183-185. http://www.cnki.com.cn/Article/CJFDTOTAL-JSJC200309070.htm
[3]	王慧, 王京.属性约简的决策树分类算法对未成年人犯罪行为的分析[J].中国人民公安大学学报(自然科学版), 2011(4): 29-32. http://www.cnki.com.cn/Article/CJFDTOTAL-GOAN201104009.htm
[4]	李明, 薛安荣, 王富强, 等.犯罪量动态优化组合预测方法[J].计算机工程, 2011, 37(17): 274-278. doi: 10.3969/j.issn.1000-3428.2011.17.092
[5]	于红志, 刘凤鑫, 邹开其.改进的模糊BP神经网络及在犯罪预测中的应用[J].辽宁工程技术大学学报(自然科学版), 2012, 31(2): 244-247. http://www.cnki.com.cn/Article/CJFDTOTAL-FXKY201202025.htm
[6]	陈鹏, 胡啸峰, 陈建国.基于模糊信息粒化的支持向量机在犯罪时序预测中的应用[J].科学技术与工程, 2015, 15(35): 54-57. doi: 10.3969/j.issn.1671-1815.2015.35.010
[7]	HAN J W, MICHELINE K, PEI J.数据挖掘:概念与技术[M].北京:机械工业出版社, 2015: 245-249.
[8]	BREIMAN L. Random forests[J]. Machine Learning, 2001, 45(1): 5-32. doi: 10.1023/A:1010933404324
[9]	方匡南, 吴见彬, 朱建平, 等.随机森林研究方法综述[J].统计与信息论坛, 2011, 26(3): 32-38. http://www.cnki.com.cn/Article/CJFDTOTAL-TJLT201103007.htm
[10]	林成德, 彭国兰.随机森林在企业信用评估指标体系确定中的应用[J].厦门大学学报(自然科学版), 2007, 46(2): 199-203. http://www.cnki.com.cn/Article/CJFDTOTAL-XDZK200702011.htm
[11]	张华伟, 王明文, 甘丽新.基于随机森林的文本分类模型研究[J].山东大学学报(理学版), 2006, 41(3): 139-143. http://www.cnki.com.cn/Article/CJFDTOTAL-LYTS201611013.htm
[12]	ANANTHA M P, LOUIS R I, ANDY L. Newer classification and regression tree techniques: Bagging and random forests for ecological Prediction[J]. Ecosystems, 2006, 9: 181-199. doi: 10.1007/s10021-005-0054-1
[13]	CAROLIN S, ANNE L B, THOMAS K, et al. Conditional variable importance for random forests[J]. BMC Bioinformatics, 2008, 9: 307-317. doi: 10.1186/1471-2105-9-307
[14]	VERIKAS A, GELZINIS A, BACAUSKIENE M. Mining data with random forests: A survey and results of new tests[J]. Pattern Recognition, 2011, 44: 330-349. doi: 10.1016/j.patcog.2010.08.011
[15]	RAMON D U, SARA A. Gene selection and classification of microarray data using random forest[J]. BMC Bioinformatics, 2006, 7: 3-15. doi: 10.1186/1471-2105-7-3
[16]	姚登举, 杨静, 詹晓娟.基于随机森林的特征选择算法[J].吉林大学学报(工学版), 2014, 44(1): 137-141. http://www.cnki.com.cn/Article/CJFDTOTAL-JLGY201401024.htm
[17]	CAROLIN S, ANNE L B, ACHIN Z, et al. Bias in random forest variable importance measures: Illustrations, sources and a solution[J]. BMC Bioinformatics, 2007, 8: 25-45. doi: 10.1186/1471-2105-8-25