Chapitre 6 Apprentissage supervisé: Classification pg212 ~ [Apprenez en vous déplaçant avec Python! Nouveau manuel d'apprentissage automatique]

w = 1/4 est l'estimation la plus probable.

** La version élémentaire d'estimation la plus probable est terminée! ** **

Modèle de régression logistique (P216)

-En utilisant le modèle de régression logistique, l'entrée x peut être compressée dans la plage de 0 à 1, il est donc facile à utiliser comme probabilité de classification.

En passant la fonction sigmoïde à travers le modèle linéaire, la probabilité que x devienne t = 1 peut être exprimée comme suit. ** Retour logistique ** $ y=w_0x+w_1\\ $ $ y=\sigma(w_0x+w_1)=\frac{1}{1+exp(-(w_0x+w_1))} $

(Moyenne) Erreur d'entropie croisée

・ La régression logistique est considérée comme une probabilité (valeur w précédente) ・ Par conséquent, à partir de la valeur d'entrée x ・ Je veux trouver un bon poids w. Ensuite, en utilisant le w obtenu, entrez la valeur de x dans le modèle créé pour obtenir la valeur prédite.

A ce moment, y représente la probabilité. Soudain, une fonction sigmoïde est sortie, mais c'est celle qui met la probabilité w qui a été gérée jusqu'ici dans y. (En utilisant la fonction sigmoïde, y obtenu à partir de la valeur d'entrée x ($ y = w_0x + w_1 $)) peut être exprimé comme une probabilité. Je dis ça.

⭐️ ** À partir de ce qui précède, $ y = w = \ sigma (w_0x + w_1) = P (t = 1 | x) $. ** **

(important): Dans P218, les paramètres $ w_0 $ et $ w_1 $ de ce modèle sont les plus susceptibles d'être estimés pour correspondre aux données sur les insectes. "En supposant que les données sur les insectes ont été générées à partir de ce modèle, trouvez les paramètres les plus probables (probablement élevés)."

Dans la théorie précédente, nous avons considéré T = [0,0,0,1], mais cette fois nous la considérerons pour qu'elle puisse s'appliquer à tous les cas.

P218

S'il n'y a qu'une seule donnée et t = 1 pour un certain poids x, la probabilité que t = 1 soit générée à partir du modèle est la valeur de sortie y du modèle de régression logistique lui-même.

Il y a une description, mais qu'est-ce que cela signifie?

C'est l'image de la page précédente. ** En regardant cela, le modèle de régression logistique peut être traité comme une probabilité car le modèle linéaire (cette expression linéaire est une expression linéaire qui obtient la valeur y à partir de la valeur d'entrée x) est écrasé dans la plage de 1 à 0 par la fonction sigmoïde. ça peut. ** **

Donc ici y = (probabilité que t = 1) 1-y = (probabilité que t = 0) Traiter comme.

Le modèle qui généralise cela est la flèche $ P(t|x)=y^t(1-y)^{1-t} $

Considérons maintenant le cas où le nombre de données est N Où je pensais à T = [0,0,0,1] dans la section précédente X = [$ x_0, x_1, ..., x_n ] T = [ t_0, t_1, ..., t_n $] Considérons le motif (T = [0,0,0,1,1,1,0,1, ... N pièces]).

Comme nous l'avons fait dans la section précédente, lorsque T = [0,0,0,1], ce que nous avons trouvé comme [0,8 $ * 0,8 * 0,8 * 0,2 = 0,104 $] est également le plus probable dans la formule généralisée. Les estimations doivent être calculées, donc tous les modèles de $ x_0 à x_n $ doivent être multipliés.

C'est ce que dit P219: "Puisque toutes les données peuvent être multipliées par la probabilité de génération de chaque donnée, cela devient comme l'équation (6-15). C'est la vraisemblance."

C'est la partie de.

Donc l'équation (6-15) est la suivante (car ils sont tous multipliés) $ P(T|X)=\prod_{n=0}^{N-1}P(T|X)=\prod_{n=0}^{N-1}y_n^{t_n}(1-y_n)^{1-t_n} $ ** _, qui représente la probabilité. (Le graphique en chevron à la page 214) _ ** </ font>