我有一个数据框 df,我正在构建一个机器学习模型(C5.0 决策树)来预测列的类别(loan_approved):
结构(非真实数据):
id occupation income loan_approved
1 business 4214214 yes
2 business 32134 yes
3 business 43255 no
4 sailor 5642 yes
5 teacher 53335 no
6 teacher 6342 no
Process:
- 我随机将数据框分成测试和训练,在训练上学习
数据集(第 1、2、3、5、6 行作为训练,第 4 行作为测试)
- 为了解释一列或多列中的新分类级别,我使用了 try 函数
功能:
error_free_predict = function(x){
output = tryCatch({
predict(C50_model, newdata = test[x,], type = "class")
}, error = function(e) {
"no"
})
return(output)
}
应用预测函数:
test <- mutate(test, predicted_class = error_free_predict(1:NROW(test)))
Problem:
id occupation income loan_approved predicted_class
1 business 4214214 yes no
2 business 32134 yes no
3 business 43255 no no
4 sailor 5642 yes no
5 teacher 53335 no no
6 teacher 6342 no no
问题:
我知道这是因为测试数据帧具有训练数据中不存在的新级别,但我的函数不应该在除此之外的所有情况下工作吗?
P.S:没有使用sapply,因为它太慢了
这个问题有两个部分。
- 问题的第一部分出现在训练模型期间,因为如果进行随机分割,则分类变量在训练和测试之间不会平均分配。在您的情况下,假设您只有一条职业为“水手”的记录,那么当您进行随机分割时,它可能最终会出现在测试集中。使用训练数据集构建的模型永远不会看到职业“水手”的影响,因此会抛出错误。在更一般的情况下,一些其他分类变量级别可能在随机分割后完全进入测试集。
因此,您可以进行分层抽样,而不是在训练和测试之间随机划分数据。代码使用data.table
70:30 的分割是:
ind <- total_data[, sample(.I, round(0.3*.N), FALSE),by="occupation"]$V1
train <- total_data[-ind,]
test <- total_data[ind,]
这确保了任何级别在训练和测试数据集之间均等划分。因此,您不会在测试数据集中获得“新”分类级别;在随机分裂的情况下可能存在。
-
问题的第二部分出现在模型投入生产时,它遇到了一个全新的变量,而这个变量在训练或测试集中都不存在。为了解决这个问题,我们可以使用以下方法维护所有类别变量的所有级别的列表lvl_cat_var1 <- unique(cat_var1)
and lvl_cat_var2 <- unique(cat_var2)
等等。然后在预测之前可以检查新的级别和过滤器:
new_lvl_data <- total_data[!(var1 %in% lvl_cat_var1 & var2 %in% lvl_cat_var2)]
pred_data <- total_data[(var1 %in% lvl_cat_var1 & var2 %in% lvl_cat_var2)]
然后对于默认预测执行以下操作:
new_lvl_data$predicted_class <- "no"
以及 pred_data 的全面预测。
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)