TensorFlow change-t-il l'image de l'apprentissage profond? Ce que j'ai pensé après avoir touché un peu

L'autre jour, Google a publié la bibliothèque d'apprentissage en profondeur TensorFlow. De nombreuses personnes l'ont déjà essayé, et leurs impressions et leur utilisation ont été écrites. J'aimerais le toucher moi-même et écrire ce que j'ai pensé.

Quand j'ai lu pour la première fois l'explication de l'apprentissage profond

Dans l'explication de l'apprentissage profond commun, la figure suivante est utilisée.

pic1.png

Il est présenté comme un mécanisme rappelant le mécanisme des nerfs. Les données sont transmises d'une cellule nerveuse à une cellule nerveuse via la synapse, et la cellule nerveuse qui reçoit les données voit les données et envoie à nouveau de nouvelles données.

Quand je comprends un peu le mécanisme du deep learning

Cependant, lorsque je regarde ce chiffre et que je le reflète dans le programme, j'ai du mal à devoir reproduire beaucoup de cellules. Par conséquent, il serait plus facile à comprendre si vous pensez à des cellules nerveuses ayant la même fonction qu'une masse et simplifiez la figure en utilisant un espace vectoriel de grande dimension.

pic2.png

Considérez les cellules nerveuses comme des connexions synaptiques dans l'espace vectoriel comme une sorte de cartographie (ceux qui ne le comprennent pas sont des fonctions). Ce mappage est souvent non linéaire, mais je pense que beaucoup utilisent quelque chose qui est représenté par un composite d'un mappage linéaire (représenté par une matrice) et une simple fonction non linéaire. En apprentissage automatique, les performances de ce mappage sont améliorées par l'apprentissage. Si vous disposez d'un composite d'un mappage linéaire et d'une fonction non linéaire, vous pouvez représenter la partie du mappage linéaire comme une matrice et mettre à jour la matrice à chaque fois que vous apprenez.

Nulle part

Sur la base de cette compréhension, lorsque je lisais l'explication de TensorFlow, j'ai été immédiatement convaincu que je faisais un apprentissage en profondeur à l'aide de graphiques, mais je me suis parfois demandé «Quoi? Autrement dit, bien qu'il existe de nombreuses explications sur les sommets, il n'y a presque pas de parties qui correspondent aux arêtes. Dans la figure précédente, la partie de la cartographie, c'est-à-dire le côté du graphe, est renforcée par l'apprentissage, mais il n'y a aucune explication pour ce côté. Au lieu de cela, il y a Variable, et il semble que vous êtes censé apprendre en la mettant à jour.

Apparemment, j'ai besoin de réécrire à nouveau l'image d'apprentissage profond en moi-même.

Notez que la partie du mappage est généralement divisée en une partie variable et mise à jour par apprentissage (la partie de mappage linéaire) et une partie invariante (la partie fonction non linéaire). La partie variable est représentée par une colonne de nombres. On comprend que le style de TensorFlow consiste à traiter cela comme une variable et à le traiter comme un sommet au lieu de l'incorporer dans un côté. En séparant du côté vers le sommet, les données et la fonction sont séparées, et les données provenant de l'entrée et les données d'apprentissage sont traitées de la même manière. Ensuite, l'image sera comme indiqué dans la figure suivante. pic3.png

Au moment de l'apprentissage, le côté retourne et la partie des données d'apprentissage est mise à jour. Si vous y réfléchissez avec une telle image, vous pouvez considérer le deep learning comme quelque chose de similaire au mécanisme d'autres applications.

Recommended Posts

TensorFlow change-t-il l'image de l'apprentissage profond? Ce que j'ai pensé après avoir touché un peu
J'ai réfléchi un peu car Trace Plot du paramètre de stan est difficile à voir
J'ai essayé d'héberger un modèle d'apprentissage en profondeur de TensorFlow à l'aide de TensorFlow Serving
Ce que j'ai pensé après avoir travaillé pendant un an sur le projet "Ne pas écrire de commentaires"
J'ai fait une image ponctuelle de l'image d'Irasutoya. (partie 1)
J'ai essayé un peu le comportement de la fonction zip
J'ai fait une image ponctuelle de l'image d'Irasutoya. (partie 2)
J'ai recherché une carte similaire de Hearthstone avec Deep Learning
[Go] Créez une commande CLI pour changer l'extension de l'image
Après avoir fait des recherches sur la bibliothèque Python, j'ai un peu compris egg.info.
Que se passe-t-il lorsque je change les hyper paramètres de SVM (noyau RBF)?
J'ai essayé de transformer l'image du visage en utilisant sparse_image_warp de TensorFlow Addons
Graphique de l'historique du nombre de couches de deep learning et du changement de précision
J'ai fait GAN avec Keras, donc j'ai fait une vidéo du processus d'apprentissage.
J'ai essayé l'histoire courante de l'utilisation du Deep Learning pour prédire la moyenne Nikkei
Ce que les utilisateurs de Java ont pensé d'utiliser le langage Go pendant une journée
J'ai essayé l'histoire courante de prédire la moyenne Nikkei à l'aide du Deep Learning (backtest)
Othello-De la troisième ligne de "Implementation Deep Learning" (3)
Visualisez les effets de l'apprentissage profond / de la régularisation
Reconnaissance d'image en apprentissage profond 3 après la création du modèle
Othello-De la troisième ligne de "Implementation Deep Learning" (2)
Créez un environnement python pour apprendre la théorie et la mise en œuvre de l'apprentissage profond
Comment installer le framework d'apprentissage en profondeur Tensorflow 1.0 dans l'environnement Windows Anaconda
L'apprentissage en profondeur! L'histoire des données elles-mêmes qui sont lues lorsqu'elles ne suivent pas après la reconnaissance des nombres manuscrits
L'histoire de l'apprentissage profond avec TPU
Un mémorandum d'étude et de mise en œuvre du Deep Learning
J'ai réfléchi un peu à l'API grandissante de TensorFlow
J'ai essayé de corriger la forme trapézoïdale de l'image
Implémentation du modèle Deep Learning pour la reconnaissance d'images
J'ai essayé d'utiliser le filtre d'image d'OpenCV
J'ai installé le framework Deep Learning Chainer
J'ai fait un peu de recherche sur la classe
J'ai essayé de faire quelque chose comme un chatbot avec le modèle Seq2Seq de TensorFlow
Le concept de référence en Python s'est effondré un instant, j'ai donc expérimenté un peu.
Ce à quoi j'ai pensé dans la question de l'examen d'entrée de "Bayes Statistics from the Basics"
J'ai jeté un œil au contenu de sklearn (scikit-learn) (1) ~ Qu'en est-il de l'implémentation de CountVectorizer? ~
Comment changer l'image générée de GAN en une image de haute qualité à votre goût
J'ai réfléchi à la raison pour laquelle Python self est nécessaire avec le sentiment d'un interpréteur Python
J'ai créé une application Twitter qui identifie et enregistre l'image d'un personnage spécifique sur la chronologie de Twitter par pytorch transfer learning