最近我们被客户要求撰写关于贝叶斯网络的研究报告，包括一些图形和统计输出。
复杂网络分析CNA简介与R语言对婚礼数据聚类（社区检测）和可视化
贝叶斯网络（BN）是一种基于有向无环图的概率模型，它描述了一组变量及其相互之间的条件依赖性。它是一个图形模型，我们可以很容易地检查变量的条件依赖性和它们在图中的方向。
在这篇文章中，我将简要地学习如何用R来使用贝叶斯网络。
本教程旨在介绍贝叶斯网络学习和推理的基础知识，使用真实世界的数据来探索图形建模的典型数据分析工作流程。关键点将包括：
定义
贝叶斯网络（BNs）的定义是：
, 其中每个节点 
对应于一个随机变量 
;
(带参数 
), 它可以根据图中存在的弧被分解成更小的局部概率分布。网络结构的主要作用是通过图形分离来表达模型中各变量之间的条件独立性关系，从而指定全局分布的因子化。
每个局部分布都有自己的参数集 
; 而⋃ 
要比
小得多，因为许多参数是固定的，因为它们所属的变量是独立的。
R实现了以下学习算法。
基于约束的：PC, GS, IAMB, MMPC, Hilton-PC
基于分数的：爬山算法、Tabu Search
配对的：ARACNE, Chow-Liu
混合：MMHC, RSMAX2
我们使用基于分数的学习算法，希尔算法。首先，我们将先为本教程生成简单的数据集。
在这个数据集中，'状态'与'元素'和'接受'列有关系。而'类型'与'颜色'列有关系。当你创建一个带有分类数据的数据框时，列应该是一个因子类型。否则，该数据框不能用于BN结构的创建。
接下来，我们将创建学习结构。
我们可以在一个图中看到结构。
> plot(hc_simd)
在这个图中，状态、元素、接受、类型和颜色被称为节点。节点之间的方向用弧线描述，弧线是一个包含从元素到元素方向数据的矩阵。
如上弧线显示，在我们的数据中存在'类型'到'颜色'，以及'状态'到'接受'和'元素'的关系。'类型'和'状态'是两个独立的组，它们之间不存在相互依赖关系。
接下来，我们将用数据来拟合模型。
simd_fitted
基于上述训练数据，我们可以进行条件概率查询。
我们检查 "Outlier "和 "Target "的状态概率。
该样本成为 "离群 "的概率为51%。
状态成为 "目标 "的概率是0%。
问题：受第三类错牙合畸形影响的患者（以下牙弓突出为特征），其骨骼不平衡在生命早期就产生，在青春期和骨骼成熟前会变得更加明显。在单个III类患者中早期预测治疗的成功或失败，使其更容易矫正，但仅从少量的形态决定因素中预测是很难做到的。原因是III类错颌畸形很少是单一颅面部件异常的结果，所以单个的临床和放射学测量值可能不如测量值本身的相互作用具有指示性。
任务:
我们将使用的数据集包含143名患者，在T1和T2年龄段有两组测量数据（以年为单位），用于以下变量。
治疗：未经治疗（NT），治疗后效果不好（TB），治疗后效果好（TG）。生长：一个二元变量，数值为好或坏。ANB：唐氏点A和B之间的角度（度）。IMPA：门牙-下颌平面角（度）。PPPM：腭平面-下颌平面的角度（度）。CoA：上颌骨从髁状突到唐氏点A的总长度（mm）。GoPg：下颌体从齿龈到齿龈的长度（mm）。CoGo：下颌骨的长度，从髁状突到齿状突（mm）。所有的测量都是通过X射线扫描得出的，使用一套参考点建立的图，如以下。
> str(data)
首先，我们创建一个数据框架，其中包括所有变量的差异以及增长和治疗。
生长和治疗变量带有关于病人预后的冗余信息，这一点从TB和TG之间生长良好的病人比例的差异中可以看出。
为了避免在模型中包括这两个变量所导致的混杂，我们将治疗重新编码为一个二元变量，0表示NT，1表示TB或TG。同样地，我们对成长进行重新编码，0表示坏，1表示好。
由于我们将使用高斯BN进行分析，检查这些变量是否是正态分布；从下面的图来看，似乎并非所有的变量都是如此。
+ hist(x, prob = TRUE )
+ lines(density(x), lwd = 2 )
这些变量是通过线性关系联系起来的吗？其中一些是，但不是全部。
> pairs(diff[, setdiff(names(diff)
最后，我们可以看看这些变量是否以任何方式聚在一起，因为聚在一起的变量更有可能在BN中发生联系。
> heatmap(rho)
我们可以在热图中看到两个集群：第一个集群包括dCoGo、dGoPg和dCoA，第二个集群包括Treatment、dANB和dCoA。第一个聚类在临床上很有意思，因为它包括治疗和两个都与唐氏A点有关的变量，这为治疗的主要效果提供了一些线索。
plot(ug )
在这里，我们使用保存在diff中的差异来为数据建模，而不是原始值；我们将使用GBN处理，因为所有变量都是数字。对差异进行建模会导致局部分布，其形式为回归模型
其中
对于其他回归因子，以此类推。我们可以将这种回归改写为
这是一组微分方程，对变化率进行建模，其关系被假定为很好地近似于线性关系。然而，这种表述仍然意味着原始值随时间线性变化，因为变化率取决于其他变量的变化率，但不取决于时间本身。要有一个非线性的趋势，我们需要
此外，包括增长变量意味着我们可以有以下形式的回归模型
从而允许不同的变化率，这取决于病人是否在畸形中表现出积极的发展，以及他是否正在接受治疗。
学习BN的第一步是学习其结构，即DAG 
. 我们可以使用数据（来自不同的数据框架）结合先验知识来做这件事；结合后者可以减少我们必须探索的模型空间，并生成更强大的BN。一个直接的方法是将那些编码我们知道不可能/真实的关系的弧列入黑名单; 并将那些编码我们知道存在的关系的弧列入白名单。
黑名单只是一个矩阵（或一个数据框），其中有from和to两列，列出了我们不希望在BN中出现的弧。
白名单的结构与黑名单相同。
一个简单的学习 
方法是在整个数据上找到具有最佳拟合度的网络结构。例如，使用hc()与默认分数（BIC）和整个diff数据框架。
至于绘图，关键函数是plot()。
plot(dag, , highlight )
然而，dag的质量关键取决于变量是否是正态分布，以及连接它们的关系是否是线性的；从探索性分析来看，并不清楚所有的变量都是如此。我们也不知道哪些弧线代表强关系，也就是说，它们能抵抗数据的扰动。我们可以用boot来解决这两个问题。
booth(diff, R = 200)
boot.strength()的返回值包括，对于每一对节点，连接它们的弧的强度（例如，我们观察到dANB → dPPPM或dPPPM → dANB的频率）及其方向的强度（例如，当我们观察到dANB和dPPPM之间有弧时，我们观察到dANB → dPPPM的频率）。
attr( "threshold")
因此，averaged.network()取所有强度至少为0.585的弧，并返回一个平均的共识网络，除非指定不同的阈值。
> avg.diff = averaged.network(str.diff)纳入我们现在拥有的关于弧线强度的信息。
> strength.plot(avg.diff, str.diff, shape = "ellipse", highlight = list(arcs = wl)) 
我们如何将平均的网络（avg.diff）与我们最初从所有数据中学习到的网络（dag）进行比较？最定性的方法是将两个网络并排绘制，节点位置相同，并突出显示一个网络中出现而另一个网络中没有的弧，或者出现的方向不同的弧。
> par(mfrow = c(1, 2))
> graphviz.compare(avg.diff, dag, shape = "ellipse", main = c("averaged DAG", "single DAG"))
我们可以看到，Treatment→dIMPa、dANB→dGoPg和dCoGo→dPPPM这些弧线只出现在平均网络中，而dPPPM→dANB只出现在我们从所有数据中学到的网络中。我们可以假设，前三个弧被数据的噪声加上小样本量和偏离常态的情况所隐藏。编程可以返回真阳性（出现在两个网络中的弧）和假阳性/阴性（只出现在两个网络中的一个的弧）的数量。
> compare
或弧=TRUE。
但是，考虑到网络是用BIC学习的，而BIC是等价的，那么所有的弧线方向是否都很确定？看一下dag和avg.diff的CPDAGs（并考虑到白名单和黑名单），我们看到没有无方向的弧。所有弧的方向都是唯一的。
最后，我们可以结合来进行原则性的比较，如果两个弧被唯一确定为不同，我们就说它们是不同的。
也可以看一下关于弧长分布的阈值：平均的网络是相当密集的（9个节点有17个弧），很难阅读。
> plot(str.diff)
> abline(v = 0.75, col = "tomato", lty = 2, lwd = 2)
> abline(v = 0.85, col = "steelblue", lty = 2, lwd = 2)
因此，把阈值提高一点，多剔除几个弧就好了。看一下上面的图，由于弧长分布的差距，较高的阈值的两个自然选择是0.75（红色虚线）和0.85（蓝色虚线）。
> nrow( strength > "threshold" direction > 0.5, ])
[1] 18
trength > 0.75 & direction > 0.5
[1] 15
strength > 0.85 & direction > 0.5
[1] 12我们通过在 network()中设置阈值=0.85得到的更简单的网络如下所示；从定性的角度来看，它当然更容易推理。
> avg.simpler = averaged.network(str.diff, threshold = 0.85)
> strength.plot(avg.simpler, str.diff, shape = "ellipse", highlight = list(arcs = wl))
在学习了结构之后，我们现在可以学习参数。由于我们正在处理连续变量，我们选择用GBN来建模。因此，如果我们使用最大似然估计来拟合网络的参数，我们就会发现每个局部分布都是一个典型的线性回归。
fit(avg, diff)
我们可以通过比较bn.fit()和lm()产生的模型，例如dANB，很容易确认这是事实。
> summary(lm(dANB ~ Growth + Treatment, data = diff))
我们会不会有共线性的问题？理论上是可能的，但在实践中，从数据中学习的网络结构大多不是问题。原因是，如果两个变量 
和
是共线性的，在增加（比如说）Xi←Xj之后，那么Xj←Xk将不再显著提高BIC，因为Xj和Xk（在某种程度上）提供了关于Xi的相同信息。
> # 逐渐增加解释变量之间的关联性。
> for (rho 5)) {
+ # 更新相关矩阵并生成数据。
+ R = R = rho
+ data = as.data.frame(mvrnorm(1000))
+ # 比较线性模型
+ cat( " BIC:",
+ }
如果参数估计因任何原因出现问题，我们可以用一组新的、来自不同方法的估计值来取代它们。
dANB
dANB = penalized( dANB)
dANB
有两种主要的方法来验证一个BN。
我们可以用通常的方法来衡量我们所选择的学习策略的预测准确性，即交叉验证。实现了：
对于:
首先，我们检查Growth，它编码了错牙合畸形的演变（0表示坏，1表示好）。我们检查它，把它转回离散变量并计算预测误差。
cv(diff)
> for (i in 1:10) {
+ err[i] = (sum(tt) - sum(diag(tt))) / sum(tt)
+ }
>
其他变量是连续的，所以我们可以估计它们的预测相关性来代替。
> for (var in names(predcor)) {
+ xval = cv(diff)
+ predcor[var] = mean(sapply(xval, function(x) attr(x, "mean")))
+ }
在这两种情况下，我们使用损失函数的变体，它使用从所有其他变量计算的后验期望值进行预测。基本的损失函数（cor, mse, pred）仅仅从它们的父代来预测每个节点的值，这在处理很少或没有父代的节点时是没有意义的。
确认BN是否有意义的另一种方法是把它当作的工作模型，看看它是否表达了关于关键事实，这些事实在学习过程中没有作为先验知识使用。否则，我们将只是拿回我们放在先验中的信息）。一些例子。
> sim = dist(fitted.simpler)
> plot(sim )
> abline(v = 0, col = 2, lty = 2, lwd = 2)
> nrow(sim[( dCoGo <= 0) & ( PPPM > 0), ]) / nrow(sim[( dCoGo <= 0), ])
[1] 0.6112532
> nrow(sim[( dCoGo > 0) & ( dCoGo < 2) & ( dPPPM > 0), ]) /
+ nrow(sim[( CoGo) > 0 & ( dCoGo < 2), ])
[1] 0.4781784
> plot(sim )
> abline(coef(lm(dIMPA ~ dANB )) 
> nrow(sim[(dGoPg > 5) & (dANB < 0), ]) / nrow(sim[(dGoPg > 5), ])
[1] 0.695416
> nrow(sim[(dGoPg > 5) & (dIMPA < 0), ]) / nrow(sim[(dGoPg > 5), ])
[1] 0.5756936dist(fitted )
table(TREATMENT = Treatment < 0.5, GOOD.GROWTH = Growth > 0.5)
table(TREATMENT = Treatment < 0.5, GOOD.GROWTH = Growth > 0.5)
假设GoPg不发生变化，对于接受治疗的病人来说，A点和B点之间的角度会增加（强烈的负值表示水平不平衡，所以正的变化率表示不平衡的减少），而对于未接受治疗的病人来说则会减少（不平衡会随着时间慢慢恶化）。
Treatment = c("UNTREATED", "TREATED")[(Treatment > 0.5) + 1L]
boxplot(dANB ~ Treatment)
动态贝叶斯网络在预测方面的效果不如1号模型好，同时更加复杂。这是动态贝叶斯网络所固有的，即模拟随机过程的贝叶斯网络：每个变量都与被模拟的每个时间点的不同节点相关。(通常情况下，我们假设过程是一阶马尔可夫，所以我们在BN中有两个时间点：t和t-1。)然而，我们探索它的目的是为了说明这样一个BN可以被学习并用于bnlearn。
我们用于这个模型的数据是我们在分析开始时存储到正交的原始数据。然而，我们选择使用治疗变量而不是生长变量作为变量来表达受试者可能正在接受医疗的事实。原因是生长变量是一个衡量第二次测量时的预后的变量，它的值在第一次测量时是未知的；而治疗变量在两次测量时都是相同的。
首先，我们将变量分为三组：时间为t2的变量，时间为t1=t2-1的变量，以及与时间无关的变量，因为它们在t1和t1取值相同。
> t2.variables
然后我们引入一个黑名单，其中。
grid(from = setdiff(names(ortho), c("T1", "T2")),
to = c("T1", "T2"))
相比之下，我们只对T1→T2的弧线进行白名单，因为第二次测量的年龄显然取决于第一次测量的年龄。
> data.frame(from = c("T1"), to = c("T2"))最后我们可以用bl和wl来学习BN的结构。
> dyn.dag
很明显，这个BN比前一个更复杂：它有更多的节点（16对9），更多的弧（27对19），因此有更多的参数（218对37）。
绘制这个新模型的最好方法是用plot()开始。
plot(dyn, render = FALSE)
然后，我们对变量进行分组，以方便区分const、t1.variables和t2.variables；我们选择从左到右而不是从上到下绘制网络。
+ attrs = list(graph = list(rankdir = "LR")))
> Graph(gR)
与前一个模型一样，治疗作用于ANB：从治疗出去的唯一弧是治疗→ANB2和治疗→CoA2。同样，这两个子节点都与Down的A点有关。
我们想评估这个动态BN结构的稳定性，就像我们之前对静态BN所做的那样，我们可以再次做到这一点。
> boot (ortho )
> plot(dyn)
avernet(dyn.str)
平均下来的avg和dag几乎是一样的：它们只相差两道弧。这表明结构学习产生了一个稳定的输出。
compare(dag, avg)
tp fp fn
26 1 1
由于Treatment是一个离散变量，BN是一个CLGBN。这意味着以Treatment为父节点的连续节点的参数化与其他节点不同。
fit(dynavg)
我们可以看到，ANB2取决于ANB（所以，在前一个时间点的同一变量）和治疗。 ANB是连续的，所以它被用作ANB2的回归因子。 治疗变量是离散的，决定了线性回归的成分。
我们可以对这个新模型提出另一组问题
data.frame(
diff = c(nt[, 2] - nt[, 1], tb[, 2] - tb[, 1], tg[, 2] - tg[, 1]),
> by(effect$diff, effect$treatment, FUN = mean) 
density(~ diff, groups = treatment)
相比之下，这是一个未经治疗的病人在相同初始条件下的模拟轨迹。
对CoA的模拟轨迹是比较现实的：它随着年龄的增长而减慢。这与ANB不同，它的发生是因为CoA2同时取决于T1和T2。(ANB2则两者都不依赖)。
> for (i in seq(nrow(interv)) {
+ # 进行联合预测，目前用predict()无法实现。
+ dist(dyn.fitted, nodes = c(),
+ intervals[i,] = weighted.mean(ANB2, weights)
+ intervals[i,] = weighted.mean(CoA2, weights)
