Statsmodels Poisson glm 与 R 不同

我正在尝试根据 R 中提供的一些代码来拟合一些模型（空间交互模型）。我已经能够在 python 框架中使用 statsmodels 使一些代码正常工作，但其中一些代码根本不匹配。我相信我的 R 和 Python 代码应该给出相同的结果。有人看到任何差异吗？或者是否存在一些可能会导致问题的根本差异？ R 代码是原始代码，与教程中给出的数字相匹配（在此处找到：http://www.bartlett.ucl.ac.uk/casa/pdf/paper181 http://www.bartlett.ucl.ac.uk/casa/pdf/paper181).

R示例代码：

library(mosaic)
Data = fetchData('http://dl.dropbox.com/u/8649795/AT_Austria.csv')
Model = glm(Data~Origin+Destination+Dij+offset(log(Offset)), family=poisson(link="log"), data = Data)
cor = cor(Data$Data, Model$fitted, method = "pearson", use = "complete")
rsquared = cor * cor
rsquared

R输出：

> Model = glm(Data~Origin+Destination+Dij+offset(log(Offset)), family=poisson(link="log"), data = Data)
Warning messages:
1: glm.fit: fitted rates numerically 0 occurred 
2: glm.fit: fitted rates numerically 0 occurred 
> cor = cor(Data$Data, Model$fitted, method = "pearson", use = "complete")
> rsquared = cor * cor
> rsquared
[1] 0.9753279

Python代码：

import numpy as np
import pandas as pd
import statsmodels.formula.api as smf
import statsmodels.api as sm
from scipy.stats.stats import pearsonr

Data= pd.DataFrame(pd.read_csv('http://dl.dropbox.com/u/8649795/AT_Austria.csv'))
Model = smf.glm('Data~Origin+Destination+Dij', data=Data, offset=np.log(Data['Offset']), family=sm.families.Poisson(link=sm.families.links.log)).fit()

cor = pearsonr(doubleConstrained.fittedvalues, Data["Data"])[0]

print "R-squared for doubly-constrained model is: " + str(cor*cor)

Python输出：

R-squared for doubly-constrained model is: 0.104758481123

看来 GLM 在 statsmodels 中存在收敛问题。也许在 R 中也是如此，但 R 只给出这些警告。

Warning messages:
1: glm.fit: fitted rates numerically 0 occurred 
2: glm.fit: fitted rates numerically 0 occurred 

这可能意味着 Logit/Probit 上下文中的完美分离。我必须考虑泊松模型。

R 做得更好，尽管很微妙，它可以告诉您您的配件可能有问题。例如，如果您查看 statsmodels 中的拟合可能性，它是 -1.12e27。这应该是一个线索，表明出现了问题。

直接使用泊松模型（如果可能的话，我总是更喜欢最大似然而不是 GLM），我可以复制 R 结果（但我收到收敛警告）。显然，默认的 newton-raphson 求解器再次失败，所以我使用 bfgs。

import numpy as np
import pandas as pd
import statsmodels.formula.api as smf
import statsmodels.api as sm
from scipy.stats.stats import pearsonr

data= pd.DataFrame(pd.read_csv('http://dl.dropbox.com/u/8649795/AT_Austria.csv'))

mod = smf.poisson('Data~Origin+Destination+Dij', data=data, offset=np.log(data['Offset'])).fit(method='bfgs')

print mod.mle_retvals['converged']