Où dans l'apprentissage en profondeur, le produit matriciel / produit interne est utilisé

À propos du produit matriciel / produit intérieur

Lorsque j'étudiais les mathématiques, le mot «produit intérieur» est apparu. J'ai étudié comment ce «produit interne» est utilisé dans un réseau neuronal. Le produit interne est le produit du vecteur, mais le produit de la matrice est le produit de la matrice. Le produit interne semble être appelé "produit scalaire".

Qu'est-ce que le produit intérieur?

Qu'est-ce qu'un produit matriciel?

Exemple

Considérez le réseau neuronal à deux couches suivant.

Unknown-2.tiff

Formule du produit Matrix

Si vous remplacez la sortie du réseau neutre ci-dessus par l'équation du produit matriciel, cela ressemblera à ceci.

\begin{bmatrix}
w_{11} & w_{12} & w_{13}\\
w_{21} & w_{22} & w_{23}
\end{bmatrix}

\cdot 

\begin{bmatrix}
x_{1} \\
x_{2} \\
x_{3} \\
\end{bmatrix}

Calcul manuel

Appliquer les chiffres spécifiquement

\begin{bmatrix}
1 & 2 & 3\\
4 & 5 & 6
\end{bmatrix}

\cdot 

\begin{bmatrix}
1 \\
2 \\
3 \\
\end{bmatrix}

Si vous calculez à la main

\begin{bmatrix}
1 \times 1 + 2 \times 2 + 3 \times 3  \\
4 \times 1 + 5 \times 2 + 6 \times 3  \\
\end{bmatrix}

=

\begin{bmatrix}
14  \\
32  \\
\end{bmatrix}
 

Dans Numpy

import numpy as np
w = np.array([[1,2,3],[4,5,6]])
x = np.array([[1],[2],[3]])

w.dot(x) #=> array([[14],[32]])

w.dot (x) représente le produit matriciel de w et x. Au fait, le nom de la méthode passe de "produit scalaire" à "point".

Dans Tensorflow

import tensorflow as tf
w = tf.get_variable("weight" , initializer=tf.constant(np.array([[1,2,3],[4,5,6]]).astype("int32")))
x = tf.get_variable("x" , initializer=tf.constant(np.array([[1],[2],[3]]).astype("int32")))

Initialisation de session

init = tf.initialize_all_variables()
sess = tf.Session()
sess.run(init)
sess.run(tf.matmul(w, x))  #=> array([[14],[32]])

tf.matmul (w, x) représente le produit matriciel de w et x. Au fait, le nom de la méthode est «matmul» de «multiplication matricielle».

Recommended Posts

Où dans l'apprentissage en profondeur, le produit matriciel / produit interne est utilisé
J'ai installé et utilisé la bibliothèque Deep Learning Chainer
Utilisé en EDA pour l'apprentissage automatique
la matrice et le tapis de numpy sont différents
Classification et régression dans l'apprentissage automatique
Organisez des plateformes d'apprentissage automatique et d'apprentissage en profondeur
Apprentissage en profondeur / rétropropagation de l'erreur de produit matriciel
Graphique de l'historique du nombre de couches de deep learning et du changement de précision
Mettez vos propres données d'image dans Deep Learning et jouez avec
Apprentissage profond à partir de zéro - Conseils du chapitre 4 pour la théorie de l'apprentissage profond et la mise en œuvre apprise en Python
Les modules et packages en Python sont des "espaces de noms"
Introduction au Deep Learning ~ Pliage et mise en commun ~
Signification des modèles et paramètres d'apprentissage en profondeur
[python] Techniques souvent utilisées dans l'apprentissage automatique
Modèle de reconnaissance d'image utilisant l'apprentissage profond en 2016
Rechercher et vérifier la matrice inverse en Python
"Deep Learning from scratch" avec Haskell (inachevé)
Je veux visualiser où et combien de personnes se trouvent dans l'usine
Liste des principales distributions de probabilité utilisées en apprentissage automatique et statistiques et code en python