因果效应通常无法直接计算(无法同时观测一个样本施加和不施加干预的结果),所以通常是通过观测数据推断,由于相关性
≠
\neq
=因果性,观测结果不直接等于ATE,Potenial Outcomes Framework提供了一套从观测结果获得因果效应的理论 定义:
X
X
X: 协变量
T
T
T:T=1干预组,T=0对照组
Y
Y
Y:observed outcome观测结果
Y
0
,
Y
1
Y_0,Y_1
Y0,Y1:potential outcome潜在结果,如果接受干预T=1或者T=0时的潜在结果
E
(
Y
0
)
,
E
(
Y
1
)
{E}(Y_0),{E}(Y_1)
E(Y0),E(Y1):潜在结果的均值,如果所有人接受干预T=1(或者T=0)的均值 ATE(average causal treatment effect) :
Δ
=
μ
1
−
μ
0
=
E
(
Y
1
)
−
E
(
Y
0
)
\Delta = \mu_1-\mu_0 = {E}(Y_1) - {E}(Y_0)
Δ=μ1−μ0=E(Y1)−E(Y0)
2.Observation Studies
针对某个样本无法同时获得T=1和T=0的结果,样本的潜在结果Y可以写为:
Y
=
Y
1
T
+
Y
0
(
1
−
T
)
Y = Y_1T + Y_0(1-T)
Y=Y1T+Y0(1−T)。通常情况下是无法从观测数据直接得到ATE的。由于confounders的存在,T=1和T=0组无法直接比较,导致相关性
≠
\neq
=因果性,相关性可由观测结果得到,因果性即为需要计算的ATE。
相关性:
E
(
Y
∣
T
=
1
)
−
E
(
Y
∣
T
=
0
)
E(Y|T=1)-E(Y|T=0)
E(Y∣T=1)−E(Y∣T=0)
因果性:
E
(
Y
1
)
−
E
(
Y
0
)
E(Y_1)-E(Y_0)
E(Y1)−E(Y0)
2.1 相关性
≠
\neq
=因果性举例
一组观测数据发现穿鞋睡觉和醒来头痛有强相关性,这明显不符合常识:
E
(
Y
∣
T
=
1
)
−
E
(
Y
∣
T
=
0
)
=
E
(
头
痛
=
1
∣
穿
鞋
睡
觉
=
1
)
−
E
(
头
痛
=
1
∣
穿
鞋
睡
觉
=
0
)
E(Y|T=1)-E(Y|T=0)=E(头痛=1|穿鞋睡觉=1)-E(头痛=1|穿鞋睡觉=0)
E(Y∣T=1)−E(Y∣T=0)=E(头痛=1∣穿鞋睡觉=1)−E(头痛=1∣穿鞋睡觉=0)
Y
‾
(
1
)
\overline Y^{(1)}
Y(1)为观测到的T=1的所有样本均值
Y
‾
(
1
)
=
E
(
Y
∣
T
=
1
)
=
E
(
Y
1
T
+
Y
0
(
1
−
T
)
∣
T
=
1
)
=
E
(
Y
1
∣
T
=
1
)
(1)
\overline Y^{(1)} = {E}(Y|T=1) = {E}( Y_1T + Y_0(1-T)|T=1) = {E}( Y_1|T=1) \tag1
Y(1)=E(Y∣T=1)=E(Y1T+Y0(1−T)∣T=1)=E(Y1∣T=1)(1) 但是
E
(
Y
1
∣
T
=
1
)
≠
E
(
Y
1
)
{E}(Y_1|T=1) \neq {E}(Y_1)
E(Y1∣T=1)=E(Y1) ,因为
E
(
Y
1
)
{E}(Y_1)
E(Y1)是所有样本接受干预的潜在结果的均值。
E
(
Y
1
∣
T
=
1
)
−
E
(
Y
0
∣
T
=
0
)
=
E
(
Y
1
−
Y
0
∣
T
=
1
)
⏞
A
T
T
+
E
(
Y
0
∣
T
=
1
)
−
E
(
Y
0
∣
T
=
0
)
⏞
b
i
a
s
≠
Δ
≠
E
(
Y
1
)
−
E
(
Y
0
)
(2)
\begin{aligned} {E}(Y_1|T=1)-{E}(Y_0|T=0) &= \overbrace{ {E}(Y_1-Y_0|T=1)}^{ATT} +\overbrace{ {E}(Y_0|T=1) - {E}(Y_0|T=0)}^{bias} \\ &\neq \Delta \neq {E}(Y_1) - {E}(Y_0) \tag2 \end{aligned}
E(Y1∣T=1)−E(Y0∣T=0)=E(Y1−Y0∣T=1)ATT+E(Y0∣T=1)−E(Y0∣T=0)bias=Δ=E(Y1)−E(Y0)(2)
3.RCT随机实验
和观测数据比,RCT实验数据符合一下条件:
(
Y
0
,
Y
1
)
⊥
T
⟺
X
⊥
T
{(Y_0,Y_1)} \bot {T} \iff X \bot T
(Y0,Y1)⊥T⟺X⊥T
Y
1
⊥
T
{Y_1} \bot {T}
Y1⊥T表示对于观测到T=0的样本,如果接受干预,其潜在结果和T=1的样本一致。即是否接受干预对潜在结果无影响(直观理解是由于
T
⊥
X
T \bot X
T⊥X,T=1和T=0两组人群可比,所以施加干预得到的潜在结果一致):
E
(
Y
1
∣
T
=
1
)
=
E
(
Y
1
∣
T
=
0
)
=
E
(
Y
1
)
(3)
{E}(Y_1|T=1) = {E}(Y_1|T=0)= {E}(Y_1) \tag3
E(Y1∣T=1)=E(Y1∣T=0)=E(Y1)(3)
E
(
Y
1
∣
T
=
0
)
{E}(Y_1|T=0)
E(Y1∣T=0)是反事实对照结果,表示如果未干预组样本接受干预的潜在结果。由于一致性假设(将在下面阐述),T=1的潜在结果和实际观测结果一致,即
E
(
Y
1
∣
T
=
1
)
=
Y
‾
(
1
)
E(Y_1|T=1)=\overline Y^{(1)}
E(Y1∣T=1)=Y(1) 由于3式成立,
Y
‾
(
1
)
−
Y
‾
(
0
)
=
Δ
=
E
(
Y
1
)
−
E
(
Y
0
)
\overline Y^{(1)}-\overline Y^{(0)} = \Delta = {E}(Y_1) - {E}(Y_0)
Y(1)−Y(0)=Δ=E(Y1)−E(Y0)
4. 获得ATE无偏估计的假设
4.1 Unconfoundedness
conditional ignorability ??
exchangeability
对于RCT实验数据,exchangeability:
Y
1
⊥
T
{Y_1} \bot {T}
Y1⊥T,如公式3所示,表示干预T与潜在结果
Y
t
Y_t
Yt无关;
对于观测数据,conditional exchangeability:
Y
1
⊥
T
∣
X
{Y_1} \bot \ T|X
Y1⊥T∣X
Unconfoundedness is an untestable assumption
4.2 Positivity
0
<
P
(
T
=
1
∣
X
)
<
1
0<P(T=1|X)<1
0<P(T=1∣X)<1 ,在某个x下,如果全是treatment要么全是control,则无法计算真实ATE,此时causal effect是ill-defined(且在部分概率推到中导致除0)
根据贝叶斯公式,这条假设也叫Overlap between P(X|T=1) & P(X|T=0)
如果某些变量违背此假设,叫positivity violation,某些情况下我们可以外推结果
4.3 Consistency
T
=
t
⇒
Y
=
Y
(
t
)
T=t \Rightarrow Y=Y(t)
T=t⇒Y=Y(t) ,此假设一般默认成立,排除confounder影响后或在实验设计中,所有样本施加同样的T,结果是一致的。举例:T为是否养狗,Y为是否开心,如果只要养狗,Y就等于开心则假设成立。如果养了一只金毛T=1,结果Y=1;养了一只哈士奇T=1,,结果Y=0。说明T定义不合理,需重新设计实验。
5. Adjustment
Adjustment by regression modeling 如果X包含所有confounders(sufficient adjustment sets),则数据满足如下条件:
(
Y
0
,
Y
1
)
⊥
T
∣
X
{(Y_0,Y_1)} \bot {T|X}
(Y0,Y1)⊥T∣X 给可以理解为,给定
X
X
X条件下
T
T
T和
Y
1
Y_1
Y1垂直,取某个X值时,组里X都是一样,结果差异不由confounders导致,阻断了X->Y的因果路径。