Lime vs TreeInterpreter 用于解释决策树[关闭]

石灰来源：https://github.com/marcotcr/lime https://github.com/marcotcr/lime

树解释器来源：树解释器 https://pypi.python.org/pypi/treeinterpreter

我试图理解如何DecisionTree使用 Lime 和 treeinterpreter 做出预测。虽然两人都声称他们能够解释其描述中的决策树。似乎两者的解释相同DecisionTree以不同的方式。即特征贡献order。这怎么可能？如果两者都在看同一件事并试图描述同一事件，但以不同的顺序分配重要性。

我们应该信任谁？尤其是当最重要的特征在预测中确实很重要的时候。

树的代码

import sklearn
import sklearn.datasets
import sklearn.ensemble
import numpy as np
import lime
import lime.lime_tabular
from __future__ import print_function
np.random.seed(1)
from treeinterpreter import treeinterpreter as ti
from sklearn.tree import DecisionTreeClassifier

iris = sklearn.datasets.load_iris()

dt = DecisionTreeClassifier(random_state=42)                
dt.fit(iris.data, iris.target)

n = 100


instances =iris.data[n].reshape(1,-1)

prediction, biases, contributions = ti.predict(dt, instances)


for i in range(len(instances)):
    print ("prediction:",prediction)
    print ("-"*20) 
    print ("Feature contributions:")
    print ("-"*20) 

    for c, feature in sorted(zip(contributions[i], 
                                 iris.feature_names), 
                             key=lambda x: ~abs(x[0].any())):

        print (feature, c)

石灰的代码

import sklearn
import sklearn.datasets
import sklearn.ensemble
import numpy as np
import lime
import lime.lime_tabular
from __future__ import print_function
np.random.seed(1)
from sklearn.tree import DecisionTreeClassifier

iris = sklearn.datasets.load_iris()

dt = DecisionTreeClassifier(random_state=42)                
dt.fit(iris.data, iris.target)

explainer = lime.lime_tabular.LimeTabularExplainer(iris.data, feature_names=iris.feature_names, 
                                                   class_names=iris.target_names, 
                                                   discretize_continuous=False)

n = 100


exp = explainer.explain_instance(iris.data[n], dt.predict_proba, num_features=4, top_labels=2)

exp.show_in_notebook(show_table=True,  predict_proba= True , show_predicted_value = True , show_all=False)

我们首先看一下输出tree.

so a它确实正确地说这是一个弗吉尼亚州。然而，通过分配重要性

1) 花瓣宽度 (cm) 然后花瓣长度 (cm)

现在让我们看看输出lime

是的，它确实说算法预测弗吉尼亚州然而，看看它是如何进行分类的，我们清楚地看到以下内容

1）石灰中的花瓣长度（cm）>花瓣宽度（cm）而不是树中所示的花瓣长度（cm）

2）当萼片宽度和萼片长度被预测为零时，石灰声称具有一定的价值，如上传的图像所示

这里发生了什么事？

当特征超过 1000 个时，问题就会变得更加严重，其中每个数字对于做出决定都很重要。

为什么两种方法可能会产生不同的结果？

Lime：对其工作原理的简短解释，取自他们的github页面 https://github.com/marcotcr/lime:

直观上，解释是模型行为的局部线性近似。虽然模型在全球范围内可能非常复杂，但在特定实例附近对其进行近似更容易。在将模型视为黑匣子的同时，我们扰乱我们想要解释的实例，并围绕它学习一个稀疏线性模型，作为解释。下图说明了此过程的直觉。该模型的决策函数由蓝色/粉色背景表示，并且明显是非线性的。鲜红的十字是正在解释的实例（我们称之为 X）。我们对 X 周围的实例进行采样，并根据它们与 X 的接近程度对它们进行加权（这里的权重由大小表示）。然后我们学习一个线性模型（虚线），该模型在 X 附近很好地逼近模型，但不一定是全局的。

github 页面上的各个链接中有更多详细信息。

树解释器：有关其工作原理的解释可在http://blog.datadive.net/interpreting-random-forests/ http://blog.datadive.net/interpreting-random-forests/（这是用于回归的；可以找到工作原理非常相似的分类示例here http://engineering.pivotal.io/post/interpreting-decision-trees-and-random-forests/).

简而言之：假设我们有一个比较特征的节点F到某个值并根据该值分割实例。假设到达该节点的所有实例中有 50% 属于类C。假设我们有一个新实例，它最终被分配给该节点的左子节点，现在所有实例的 80% 属于类C。那么特征的贡献F该决策的计算公式为0.8 - 0.5 = 0.3（如果沿着叶子的路径有更多节点也使用特征，则加上附加术语F).

比较：需要注意的重要一点是，Lime 是一种独立于模型的方法（并非特定于决策树/RF），它基于局部线性近似。另一方面，Treeinterpreter 具体以与决策树本身类似的方式进行操作，并真正查看算法在比较中实际使用的特征。所以他们从根本上说是在做完全不同的事情。 Lime 表示，“如果我们稍微调整某个功能，就会产生不同的预测，那么它就很重要”。 Treeinterpreter 表示，“如果将某个特征与我们某个节点中的阈值进行比较，并且这导致我们进行分裂，从而极大地改变了我们的预测，那么该特征就很重要”。

值得信赖哪一个？

这很难明确回答。它们可能都以自己的方式有用。直观上，您第一眼可能会倾向于树解释器，因为它是专门为决策树创建的。但是，请考虑以下示例：

• 根节点：50% 的实例属于 0 类，50% 的实例属于 1 类。 IFF <= 50，向左走，否则向右走。
• 左孩子：48% 的实例属于 0 类，52% 属于 1 类。下面的子树。
• 右孩子： 99% 的实例属于 0 类，1% 的实例属于 1 类。下面的子树。

如果大多数实例向左移动，只有一些实例向右移动，则可以进行这种设置。现在假设我们有一个实例F = 49被分配到左边并最终被分配到类 1。Treeinterpreter 不会关心这一点F非常接近于在根节点中结束于方程的另一边，并且仅分配了较低的贡献0.48 - 0.50 = -0.02。 Lime 会注意到变化F只要一点点就会完全改变赔率。

哪一个是正确的？这还不太清楚。你可以那样说F这真的很重要，因为如果只有一点点不同，预测就会有所不同（那么莱姆获胜）。你也可以争辩说F对我们的最终预测没有贡献，因为在检查其价值后我们几乎没有更接近决定，并且之后仍然必须研究许多其他特征。然后树解释器获胜。

为了在这里获得更好的想法，实际绘制学习的决策树本身可能会有所帮助。然后，您可以手动沿着其决策路径进行操作，并确定您认为重要的功能和/或看看您是否可以理解为什么 Lime 和 treeinterpreter 都这么说。