Comprendre TensorFlow avec l'arithmétique

TensorFlow est principalement une bibliothèque pour la mise en œuvre de l'apprentissage automatique, en particulier les réseaux de neurones multicouches (apprentissage en profondeur), mais vous n'avez pas besoin de faire cela pour comprendre comment cela fonctionne.

Dans cet article, je voudrais démêler le mécanisme de TensorFlow basé sur des calculs simples tels que l'arithmétique.

Caractéristiques de TensorFlow

Tout d'abord, je voudrais résumer les fonctionnalités de TensorFlow. TensorFlow, comme son nom l'indique, est un outil d'écriture de Flow (traitement de calcul) de Tensor (correspondant à un tableau multidimensionnel, une matrice, etc.). Ses caractéristiques sont les suivantes.

Il convient également de noter qu'il a déjà été utilisé dans divers services (classement de recherche, classification d'images) au sein de Google.

Veuillez vous référer à la partie suivante de la page officielle pour plus de détails sur le contenu ci-dessus.

Comment fonctionne TensorFlow

Le mécanisme de TensorFlow est le suivant.

image

Le graphe TensorFlow se compose d'un nœud et d'une arête. Le nœud représente le processus de calcul (cercle vert sur la figure) ou l'entrée / sortie à la fin (cercle bleu sur la figure). edge représente un tableau multidimensionnel, ou tenseur, qui est la valeur du résultat du calcul. Ensuite, Graph est affecté à Session pour effectuer le calcul. La session calcule les nœuds qui peuvent être calculés (nœuds dont tous les résultats de calcul sont envoyés depuis l'arête) de manière asynchrone / en parallèle. Lors du calcul, nous attribuons également le périphérique (cpu / gpu) à utiliser.

Voici une vue d'ensemble du processus de calcul dans TensorFlow. Veuillez vous référer à la partie suivante de la page officielle.

Getting Started

De plus, les entrées / sorties à la fin, spécifiquement, la lecture des fichiers et la sauvegarde des résultats des calculs, etc. sont résumées aux endroits suivants.

Tous ces processus sont souvent utilisés lors du calcul à l'aide de données, alors assurez-vous de vérifier.

Calcul par TensorFlow

Maintenant, j'aimerais utiliser TensorFlow pour effectuer des calculs arithmétiques ... simples. Le code introduit cette fois est résumé dans le référentiel suivant.

icoxfog417/tensorflow-arithmetic

Vous pouvez vous référer au notebook iPython depuis tensorflow-arithmetic.ipynb.

Installation

Voir ci-dessous pour les instructions d'installation. Il est recommandé d'utiliser «pip install».

Getting Started/Download and Setup

Calcul

Maintenant, calculons en fait à l'aide de TensorFlow. Dans un premier temps, j'écrirai la formule suivante (bien que les mathématiques soient un peu plus que les mathématiques).

y = x^2 + b

La formule écrite dans TensorFlow est la suivante.

import tensorflow as tf

def x2_plus_b(x, b):
    _x = tf.constant(x)
    _b = tf.constant(b)
    result = tf.square(_x)
    result = tf.add(result, _b)
    return result

Cela ressemble à la figure ci-dessous.

image

Maintenant que l'expression est complète, exécutons-la en fait en utilisant Session.

with tf.Session() as sess:
    result = sess.run([x2_plus_b(2., 3.)])
    print(result)

Le résultat de l'exécution (sortie «print») est le suivant.

[7.0]

Puisque $ 2 ^ 2 + 3 = 7 $, vous pouvez voir que le calcul est fait correctement. Les méthodes arithmétiques disponibles sont documentées.

TensorFlow API/Math

L'argument peut également être donné sous la forme «placeholder».

import tensorflow as tf

p_x = tf.placeholder(tf.float32)
p_b = tf.placeholder(tf.float32)
p_x2_plus_b = tf.add(tf.square(p_x), p_b)

with tf.Session() as sess:
    result = sess.run([p_x2_plus_b], feed_dict={p_x: [2.], p_b: [3.]})
    print(result)

Utilisez feed_dict pour passer une valeur à placeholder lors de l'exécution de Session.

Visualisation

L'une des caractéristiques de TensorFlow est qu'il dispose d'un puissant outil de visualisation appelé TensorBoard. Utilisons ceci pour visualiser le résultat du calcul de la formule.

Si vous avez installé avec pip, vous devriez pouvoir exécuter la commande tensorboard. La visualisation est effectuée à l'aide de cela, mais nous allons d'abord afficher la valeur de l'objet à visualiser.

import tensorflow as tf

def monitor_calculation(x, b):
    title = "b = {0}".format(b)
    c = x2_plus_b(float(x), float(b))
    s = tf.scalar_summary(title, c)
    m = tf.merge_summary([s])  # if you are using some summaries, merge them
    return m

with tf.Session() as sess:
    writer = tf.train.SummaryWriter("log", graph_def=sess.graph_def)    
    xaxis = range(-10, 12)

    for b in range(3):
        for x in xaxis:
            summary_str = sess.run(monitor_calculation(x, b))
            writer.add_summary(summary_str, x)

Le but est de résumer la valeur calculée par tf.scalar_summary. Le résumé ainsi calculé est écrit avec tf.train.SummaryWriter.

Lorsque le processus ci-dessus est exécuté, le fichier sera sorti dans le dossier log. Puis lancez tensorboard comme suit:

tensorboard --logdir=/path/to/log-directory

(Le chemin est définitivement un chemin absolu). Ensuite, je pense que le graphique sera affiché comme indiqué ci-dessous (* Cela prend beaucoup de temps pour s'afficher après le démarrage. Si je pensais qu'il ne serait pas affiché pendant longtemps, il pourrait apparaître soudainement) ..

graph.png

Vous pouvez désormais tracer facilement les valeurs calculées et ainsi de suite. Au moment de l'apprentissage automatique, il sera possible de saisir la situation d'apprentissage en traçant les erreurs et la précision.

De plus, dans l'onglet "GRAPH", vous pouvez voir une visualisation de la formule construite (= graphe).

graph.png

Veuillez vous reporter aux techniques suivantes pour dessiner des graphiques (telles que la création de processus à l'aide d'espaces de noms et leur assemblage).

TensorBoard: Graph Visualization

Veuillez également vous référer à ce qui suit pour savoir comment utiliser TensorBoard.

TensorBoard: Visualizing Learning

Pour savoir comment exporter le résumé, l'exemple de mnist est utile. Il y a une description du processus dans mnist.py (en utilisant scalar_summary etc. ici), et dans Fully_connected_feed.py, le processus défini dans mnist.py est combiné et exécuté. ..

Ce qui précède est le mécanisme de base de TensorFlow. Ce contenu est similaire au contenu de Getting Started.

Je pense qu'il y aura de plus en plus d'articles sur l'apprentissage automatique avec TensorFlow, j'espère donc que cela vous aidera à les comprendre.

Recommended Posts

Comprendre TensorFlow avec l'arithmétique
Comprendre VQ-VAE
Comprendre Concaténer
Glossaire Tensorflow
tensorflow mnist_deep.py
Tutoriel du didacticiel TensorFlow
[Introduction à TensorBoard] Visualisez le traitement TensorFlow pour approfondir la compréhension