Introduction à la modélisation statistique pour le modèle linéaire généralisé d'analyse de données (GLM)

Continuant de la fois précédente (Chapitre 2), Chapitre 3. Etudier un modèle statistique qui intègre des ** variables explicatives **.

3.1 Exemple: lorsque le nombre moyen de graines varie d'un individu à l'autre

Comme la différence avec la fois précédente, la taille corporelle $ x_i $, qui est l'un des attributs de l'individu, et la présence ou l'absence de contrôle (ne rien faire: ** C **, ajouter de l'engrais: ** T **) sont utilisées comme variables explicatives.

Lire les données

[Ici] Téléchargez et utilisez data3a.csv dans le chapitre 3 de (). Les données utilisées cette fois sont appelées type DataFrame.

# d <- read.csv("data3a.csv")
>>> import pandas
>>> d = pandas.read_csv("data3a.csv")
>>> d
     y      x  f
0    6   8.31  C
1    6   9.44  C
2    6   9.50  C
3   12   9.07  C
...(Omis)...
98   7  10.86  T
99   9   9.97  T

[100 rows x 3 columns]

# d$x
>>> d.x
0      8.31
1      9.44
2      9.50
...(Omis)...
98    10.86
99     9.97
Name: x, Length: 100, dtype: float64


# d$y
>>> d.y
0      6
1      6
2      6
...(Omis)...
98     7
99     9
Name: y, Length: 100, dtype: int64

# d$f
>>> d.f = d.f.astype('category')
>>> d.f
0     C
1     C
2     C
3     C
...(Omis)...
98    T
99    T
Name: f, Length: 100, dtype: category
Categories (2, object): [C < T]

Dans R, la colonne f est appelée ** facteur ** (facteur), En python (pandas), c'est une catégorie.

Pour vérifier le type de données

# class(d)Impossible de confirmer pendant un instant.
# class(d$y)Classe Yara(d$x)Classe Yara(d$f)
>>> d.y.dtype
dtype('int64')
>>> d.x.dtype
dtype('float64')
>>> d.f.dtype
dtype('O')

Pour un aperçu de la trame de données, voir Série (identique à la dernière fois)

# summary(d)
>>> d.describe()
                y           x
count  100.000000  100.000000
mean     7.830000   10.089100
std      2.624881    1.008049
min      2.000000    7.190000
25%      6.000000    9.427500
50%      8.000000   10.155000
75%     10.000000   10.685000
max     15.000000   12.400000

>>> d.f.describe()
count     100
unique      2
top         T
freq       50
Name: f, dtype: object

Visualisation

Je n'ai pas trouvé de moyen de coder en couleur le diagramme de dispersion en une seule ligne comme R. .. ..

# plot(d$x, d$y, pch=c(21, 19)[d$f])
>>> plt.plot(d.x[d.f == 'C'], d.y[d.f == 'C'], 'bo')
[<matplotlib.lines.Line2D at 0x1184d0490>]
>>> plt.plot(d.x[d.f == 'T'], d.y[d.f == 'T'], 'ro')
[<matplotlib.lines.Line2D at 0x111b58dd0>]
>>> plt.show()
>>> d.boxplot(column='y', by='f')
<matplotlib.axes._subplots.AxesSubplot at 0x11891a9d0>

Screen Shot 2015-06-01 at 18.53.49.png Screen Shot 2015-06-01 at 18.51.47.png

Ce que vous pouvez voir sur ces chiffres

--Il semble que le nombre de graines $ y $ augmente à mesure que la taille du corps $ x_i $ augmente.

Modèle statistique de régression de Poisson

Créez un modèle statistique qui semble être en mesure d'exprimer les données de nombre de graines, qui sont les données de comptage.

Modèle statistique qui dépend de la taille corporelle $ x_i $ de l'individu $ i $

** Variable explicative **: $ x_i $ ** Variable de réponse **: $ y_i $

La probabilité $ p (y_i | \ lambda_i) $ que le nombre de graines soit $ y_i $ chez un individu $ i $ suit la distribution de Poisson.

p(y_i|\lambda_i) = \frac{\lambda _i ^{y_i} \exp (-\lambda_i)}{y_i !}

Supposer. Ici, le nombre moyen de graines $ \ lambda_i $ d'un individu $ i $ est

\begin{eqnarray}
\lambda_i &=& \exp(\beta_1 + \beta_2 x_i )
\log \lambda_i &=& \beta_1 + \beta_2 x_i 
\end{eqnarray}

Supposer que. $ \ Beta_1 $ s'appelle ** section **, $ \ beta_2 $ s'appelle ** tilt **, Le côté droit $ \ beta_1 + \ beta_2 x_i $ est appelé ** prédicteur linéaire **.

Si ($ \ lambda_i $ function) = (prédicteur linéaire), La fonction sur le côté gauche est appelée ** fonction de lien **.

Retour de Poisson

La régression de Poisson trouve $ \ beta_1, \ beta_2 $ qui maximise l'équation suivante.


\log L(\beta_1, \beta_2) = \sum_i \log \frac{\lambda_i^{y_i}\exp(-\lambda_i)}{y_i !}

Dans R, il semble que ce soit un coup si vous utilisez quelque chose comme glm. Avec python, je dois travailler sans cesse en utilisant la bibliothèque statsmodels ... (Reference)

# fit <- glm(y ~ x, data=d, familiy=poisson)
>>> import statsmodels.api as sm
>>> import statsmodel.formula.api as smf
>>> model = smf.glm('y ~ x', data=d family=sm.families.Poisson())
>>> results = model.fit()
>>> print(results.summary())
                 Generalized Linear Model Regression Results
==============================================================================
Dep. Variable:                      y   No. Observations:                  100
Model:                            GLM   Df Residuals:                       98
Model Family:                 Poisson   Df Model:                            1
Link Function:                    log   Scale:                             1.0
Method:                          IRLS   Log-Likelihood:                -235.39
Date:Mois, 01  6 2015   Deviance:                       84.993
Time:                        23:06:45   Pearson chi2:                     83.8
No. Iterations:                     7
==============================================================================
                 coef    std err          z      P>|z|      [95.0% Conf. Int.]
------------------------------------------------------------------------------
const          1.2917      0.364      3.552      0.000         0.579     2.005
x              0.0757      0.036      2.125      0.034         0.006     0.145
==============================================================================
>>> results.llf
-235.38625076986077

Il semble qu'il s'appelle Intercept en R, En Python, le const du bas semble représenter $ \ beta_1 $ (section) et x représente $ \ beta_2 $ (inclinaison).

En d'autres termes, les estimations les plus probables sont $ \ beta_1 = 1,2917 $ et $ \ beta_2 = 0,0757 $.

L'erreur std indique l '** erreur standard **, qui indique la variation de $ \ beta_1 et \ beta_2 $.

Si le même nombre de données différentes est rééchantillonné par la même méthode d'enquête, le montant d'estimation le plus probable changera également et le degré de variation changera.

z est une statistique appelée ** valeur z **, qui est l'estimation la plus probable divisée par l'erreur standard.

Il semble que ce z puisse être utilisé pour estimer l '** intervalle de confiance de Wald **. Apparemment, cet intervalle de confiance n'inclut pas 0 dans la valeur que l'estimation la plus probable peut prendre [voir](http://hosho.ees.hokudai.ac.jp/~kubo/log/2009/0101. html # 08)

Prédiction par modèle de régression de Poisson

Le résultat de l'estimation de la régression de Poisson est utilisé pour prédire le nombre moyen de graines $ \ lambda $ à la taille corporelle $ x $.

\lambda = \exp(1.29 + 0.0757x)

Est illustré en utilisant.

# plot(d$x, d$y, pch=c(21, 19)[d$f])
# xx <- seq(min(d$x), max(d$x), length=100)
# lines(xx, exp(1.29 + 0.0757 * xx), lwd = 2)
>>> plt.plot(d.x[d.f == 'C'], d.y[d.f == 'C'], 'bo')
>>> plt.plot(d.x[d.f == 'T'], d.y[d.f == 'T'], 'ro')
>>> xx = [d.x.min() + i * ((d.x.max() - d.x.min()) / 100.) for i in range(100)]
>>> yy = [numpy.exp(1.29 + 0.0757 * i )for i in xx]
>>> plt.plot(xx, yy)
>>> plt.show()

Screen Shot 2015-06-04 at 16.52.44.png

3.5 Modèle statistique avec variables explicatives de type facteur

Considérons un modèle statistique qui incorpore l'application d'engrais $ f_i $ comme variable explicative.

Dans GLM, ** variable factice ** est utilisée comme variable explicative du type de facteur. Autrement dit, la valeur moyenne du modèle,

\begin{eqnarray}
\lambda_i &=& \exp (\beta_1 + \beta_3 d_i) \\

 \therefore d_i &=& \left\{ \begin{array}{ll}
    0 & (f_i =Pour C) \\
    1 & (f_i =Pour T)
  \end{array} \right.

\end{eqnarray}

Sera écrit.

# fit.f <- glm(y ~ f, data=d, family=poisson)
>>> model = smf.glm('y ~ f', data=d, familiy=sm.families.Poisson())
>>> model.fit().summary()
                 Generalized Linear Model Regression Results
==============================================================================
Dep. Variable:                      y   No. Observations:                  100
Model:                            GLM   Df Residuals:                       98
Model Family:                 Poisson   Df Model:                            1
Link Function:                    log   Scale:                             1.0
Method:                          IRLS   Log-Likelihood:                -237.63
Date:bois, 04  6 2015   Deviance:                       89.475
Time:                        17:20:11   Pearson chi2:                     87.1
No. Iterations:                     7
==============================================================================
                 coef    std err          z      P>|z|      [95.0% Conf. Int.]
------------------------------------------------------------------------------
Intercept      2.0516      0.051     40.463      0.000         1.952     2.151
f[T.T]         0.0128      0.071      0.179      0.858        -0.127     0.153
==============================================================================
>>> model.llf
-237.62725696068682

À partir de ce résultat, si $ f_i $ de l'individu $ i $ est C,

\lambda_i = \exp(2.05 + 0.0128 * 0) = \exp(2.05) = 7.77

Si T

\lambda_i = \exp(2.05 + 0.0128 * 1) = \exp(2.0628) = 7.87

On prévoit que le nombre moyen de graines n'augmentera que légèrement lorsque l'engrais est administré.

On peut dire que la vraisemblance logarithmique (llf) n'est pas applicable car elle est devenue plus petite.

3.6 Modèle statistique avec variables explicatives de type quantitatif + factoriel

Considérons un modèle statistique qui intègre à la fois la taille corporelle individuelle $ x_i $ et le traitement de fertilisation $ f_i $.

\log \lambda_i = \beta_1 + \beta_2 x_i + \beta_3 d_i

>>> model = smf.glm('y ~ x + f', data=d, family=sm.families.Poisson())
>>> result = model.fit()
>>> result.summary()
                 Generalized Linear Model Regression Results
==============================================================================
Dep. Variable:                      y   No. Observations:                  100
Model:                            GLM   Df Residuals:                       97
Model Family:                 Poisson   Df Model:                            2
Link Function:                    log   Scale:                             1.0
Method:                          IRLS   Log-Likelihood:                -235.29
Date:bois, 04  6 2015   Deviance:                       84.808
Time:                        17:31:34   Pearson chi2:                     83.8
No. Iterations:                     7
==============================================================================
                 coef    std err          z      P>|z|      [95.0% Conf. Int.]
------------------------------------------------------------------------------
Intercept      1.2631      0.370      3.417      0.001         0.539     1.988
f[T.T]        -0.0320      0.074     -0.430      0.667        -0.178     0.114
x              0.0801      0.037      2.162      0.031         0.007     0.153
==============================================================================
>>> result.llf
-235.29371924249369

Puisque la vraisemblance logarithmique maximale est la plus grande, on peut dire qu'elle s'adapte mieux que les deux modèles statistiques ci-dessus.

Facilité de compréhension de la fonction de lien logarithmique: effet à multiplier

En transformant le modèle quantitatif ci-dessus + modèle statistique de type facteur,

\begin{eqnarray}
\log \lambda_i &=& \beta_1 + \beta_2 x_i + \beta_3 d_i \\
\lambda_i &=& \exp(\beta_1 + \beta_2 x_i + \beta_3 d_i) \\
\lambda_i &=& \exp(\beta_1) * \exp(\beta_2 x_i) * \exp(\beta_3 d_i) \\
\lambda_i &=& \exp(constant) * \exp(Effet de la taille du corps) * \exp(Effet du traitement de fertilisation) 
\end{eqnarray}

On voit que les effets se multiplient.

S'il n'y a pas de fonction de lien, elle est appelée ** fonction de lien constant **.

Dans GLM

Le cas de la distribution normale et de la fonction de lien oral est appelé ** modèle linéaire ** (** modèle linéaire, LM ) ou ** modèle linéaire général ** ( modèle linéaire général **).

Recommended Posts

Introduction à la modélisation statistique pour le modèle linéaire généralisé d'analyse de données (GLM)
Introduction à la modélisation statistique pour l'analyse des données Sélection du modèle GLM
Introduction à la modélisation statistique pour l'analyse des données
Introduction à la modélisation statistique pour l'analyse des données Test de rapport de ressemblance GLM et asymétrie de test
Introduction à la modélisation statistique pour l'analyse des données Élargissement de la gamme d'applications de GLM
Introduction au modèle linéaire généralisé (GLM) par Python
Notes de lecture (en Python et Stan) pour une introduction à la modélisation statistique pour l'analyse de données (Midorimoto)
J'ai essayé d'utiliser GLM (modèle linéaire généralisé) pour les données de prix des actions
Introduction à la modélisation statistique bayésienne avec python ~ Essai de régression linéaire avec MCMC ~
"Introduction à l'analyse de données par modélisation statistique bayésienne à partir de R et Stan" implémenté en Python
Introduction aux tests d'hypothèses statistiques avec des modèles de statistiques
Comment utiliser les outils d'analyse de données pour les débutants
[Introduction à minimiser] Analyse des données avec le modèle SEIR ♬
Une introduction à l'analyse vocale pour les applications musicales
Organisation des procédures de base pour l'analyse des données et le traitement statistique (4)
Note de lecture: Introduction à l'analyse de données avec Python
Organisation des procédures de base pour l'analyse des données et le traitement statistique (2)
[Statistiques] Visualisation pour comprendre le modèle mixte linéaire généralisé (GLMM).
[Livre technique] Introduction à l'analyse de données avec Python -1 Chapitre Introduction-
[Introduction aux Data Scientists] Statistiques descriptives et analyse de régression simple ♬
[Python] Introduction à la création de graphiques à l'aide de données de virus corona [Pour les débutants]
Python pour l'analyse des données Chapitre 4
Python pour l'analyse des données Chapitre 2
Introduction à Python pour, pendant
Conseils et précautions lors de l'analyse des données
Python pour l'analyse des données Chapitre 3
Introduction à l'analyse de données avec Python P32-P43 [ch02 3.US Baby Names 1880-2010]
Introduction à l'analyse de données par Python P17-P26 [ch02 1.usa.gov données de bit.ly]
Une introduction à Mercurial pour les non-ingénieurs
Introduction aux équations d'estimation généralisées par des modèles de statistiques
Modèle de prétraitement pour l'analyse des données (Python)
Analyse de données pour améliorer POG 3 ~ Analyse de régression ~
Introduction à l'analyse d'image opencv python
Premiers pas avec Python pour les non-ingénieurs
J'ai essayé l'analyse de données IRMf avec python (Introduction au décodage des informations cérébrales)