您的代码中有很多可以改进的地方，但让我们重点关注这里的主要瓶颈。当前的问题可以被视为尴尬地平行问题。这意味着您的数据可以分为多个较小的部分，每个较小的部分可以在单独的线程上单独计算，而无需任何额外的开销。
要了解当前问题的并行化可能性，您应该首先注意到您正在分别为每个单独的公司和/或年份执行完全相同的计算。例如，您可以将每年的计算拆分为较小的子任务，然后将这些子任务分配给不同的 CPU/GPU 核心。以这种方式可以获得显着的性能增益。
最后，当子任务处理完成后，您唯一需要做的就是合并结果。
但是，R 及其所有内部库作为单线程运行。您必须明确分割数据，然后将子任务分配给不同的核心。为了实现这一点，存在许多支持多线程的 R 包。我们将使用doparallel包在我们的示例中。
您没有提供足够大的显式数据集来有效测试性能，因此我们将首先创建一些随机数据：
set.seed(42)
wages<-data.table(firm=substr(10001:10010,2,5)[sample(10,size=1e6,replace=T)],
year=round(unif(1e6,1996,2015)),
position=round(runif(1e6,4,5)),
exp=round(runif(1e6,1,40)),
salary=round(exp(rnorm(1e6,mean=10.682,sd=.286))))
> wages
firm year position exp salary
1: 0001 1996 4 14 66136
2: 0001 1996 4 3 42123
3: 0001 1996 4 9 46528
4: 0001 1996 4 11 35195
5: 0001 1996 4 2 43926
---
999996: 0010 2015 5 11 43140
999997: 0010 2015 5 23 64025
999998: 0010 2015 5 31 35266
999999: 0010 2015 5 11 36267
1000000: 0010 2015 5 7 44315
现在，让我们运行代码的第一部分：
#get the range of experience for each firm
wages[,min_exp:=min(exp),by=.(year,firm,position)]
wages[,max_exp:=max(exp),by=.(year,firm,position)]
#Can't interpolate if there are only 2 or 3 unique experience cells represented
wages[,node_count:=length(unique(exp)),by=.(year,firm,position)]
#Nor if there are too few teachers
wages[,ind_count:=.N,by=.(year,firm,position)]
#Also troublesome when there is little variation in salaries like so:
wages[,sal_scale_flag:=mean(abs(salary-mean(salary)))<50,by=.(year,firm,position)]
wages[,sal_count_flag:=length(unique(salary))<5,by=.(year,firm,position)]
> wages
firm year position exp salary min_exp max_exp node_count ind_count sal_scale_flag sal_count_flag
1: 0001 1996 4 14 66136 1 40 40 1373 FALSE FALSE
2: 0001 1996 4 3 42123 1 40 40 1373 FALSE FALSE
3: 0001 1996 4 9 46528 1 40 40 1373 FALSE FALSE
4: 0001 1996 4 11 35195 1 40 40 1373 FALSE FALSE
5: 0001 1996 4 2 43926 1 40 40 1373 FALSE FALSE
---
999996: 0010 2015 5 11 43140 1 40 40 1326 FALSE FALSE
999997: 0010 2015 5 23 64025 1 40 40 1326 FALSE FALSE
999998: 0010 2015 5 31 35266 1 40 40 1326 FALSE FALSE
999999: 0010 2015 5 11 36267 1 40 40 1326 FALSE FALSE
1000000: 0010 2015 5 7 44315 1 40 40 1326 FALSE FALSE
我们现在将处理wages像您之前所做的那样以单线程方式。注意，我们首先保存原始数据，以便稍后对其进行多线程操作并比较结果：
start <- Sys.time()
salary_scales_1 <-
wages[node_count>=7&ind_count>=10
&sal_scale_flag==0&sal_count_flag==0,
.(exp=0:40,salary=cobs_extrap(exp,salary,min_exp,max_exp)),
by=.(firm,year,position)]
print(paste("No Parallelisation time: ",Sys.time()-start))
> print(paste("No Parallelisation time: ",Sys.time()-start))
[1] "No Parallelisation time: 1.13971961339315"
> salary_scales_1
firm year position exp salary
1: 0001 1996 4 0 43670.14
2: 0001 1996 4 1 43674.00
3: 0001 1996 4 2 43677.76
4: 0001 1996 4 3 43681.43
5: 0001 1996 4 4 43684.99
---
16396: 0010 2015 5 36 44464.02
16397: 0010 2015 5 37 44468.60
16398: 0010 2015 5 38 44471.35
16399: 0010 2015 5 39 44472.27
16400: 0010 2015 5 40 43077.70
处理完所有内容大约花了1分8秒。请注意，我们的虚拟示例中只有 10 家不同的公司，这就是为什么处理时间与本地结果相比并不那么重要。
现在，让我们尝试以并行方式执行此任务。如前所述，对于我们的示例，我们希望拆分每年的数据并将较小的子部分分配给单独的核心。我们将使用doParallel用于此目的的包：
我们需要做的第一件事是创建一个具有特定数量核心的集群。在我们的示例中，我们将尝试使用所有可用的内核。接下来，我们必须注册集群并将一些变量导出到子节点的全局环境中。在这种情况下，子节点只需要访问wages。此外，还需要在节点上评估一些依赖库才能使其正常工作。在这种情况下，节点需要访问两个data.frame and cobs图书馆。代码如下所示：
library(doParallel)
start <- Sys.time()
cl <- makeCluster(detectCores());
registerDoParallel(cl);
clusterExport(cl,c("wages"),envir=environment());
clusterEvalQ(cl,library("data.table"));
clusterEvalQ(cl,library("cobs"));
salary_scales_2 <- foreach(i = 1996:2015) %dopar%
{
subSet <- wages[.(i)] # binary subsetting
subSet[node_count>=7&ind_count>=10
&sal_scale_flag==0&sal_count_flag==0,
.(exp=0:40,
salary=cobs_extrap(exp,salary,min_exp,max_exp)),
by=.(firm,year,position)]
}
stopCluster(cl)
print(paste("With parallelisation time: ",Sys.time()-start))
> print(paste("With parallelisation time: ",Sys.time()-start))
[1] "With parallelisation time: 23.4177722930908"
我们现在有一个数据表列表salary_scales_2其中包含每个单独年份的子结果。注意处理时间的加速：这次只用了 23 秒，而不是原来的 1.1 分钟（改善 65%）。我们现在唯一需要做的就是合并结果。我们可以用do.call("rbind", salary_scales_2)为了将表的行合并在一起（这几乎不需要时间 - 一次运行 0.002 秒）。最后，我们还执行一个小检查来验证多线程结果确实与单线程运行的结果相同：
salary_scales_2<-do.call("rbind",salary_scales_2)
identical(salary_scales_1,salary_scales_2)
> identical(salary_scales_1,salary_scales_2)
[1] TRUE
回复评论这确实是一个非常有趣的例子，但我认为您可能会忽略这里更重要的问题。这data.table确实执行内存和结构相关的优化，以便您以更有效的方式查询和访问数据。然而，在这个例子中，不存在与内存或搜索相关的主要瓶颈，尤其是当您与实际的总数据处理时间进行比较时。cobs功能。例如，您更改的行subSet <- wages[year==uniqueYears[i],]当您计时时，每次调用只需要大约 0.04 秒。
如果您在运行时使用分析器，那么您会注意到它不是data.table或其任何需要并行化的操作或分组，它是cobs占用几乎所有处理时间的函数（并且该函数甚至不使用data.table作为输入）。在这个例子中我们试图做的是重新分配我们的总工作负载cobs函数到不同的内核以实现加速。我们的意图是not来分割data.table操作，因为它们根本不昂贵。然而，我们确实必须拆分 data.table，因为我们需要将数据拆分为单独的数据。cobs函数运行。事实上，我们甚至利用了这样一个事实：data.table拆分和合并表时在各方面都很高效。这根本没有花费额外的时间。
