Introduction à la définition de la fonction Thano et à la différenciation automatique

Ceci est l'article sur le 6ème jour du Calendrier de l'Avent 2019 des ingénieurs informatiques de l'Université d'Hiroshima.

Je suis Yuto Araki, étudiant de 4e année à la Faculté d'ingénierie de l'Université d'Hiroshima! Je serai ingénieur informatique à Fukuoka à partir de l'année prochaine! Je fais Twitter avec le pseudonyme Imikoto, alors veuillez vérifier cela également. （https://twitter.com/es__135 ）

Premiers pas avec Thano

python

import numpy as np
import theano.tensor as T
from theano import function

x = T.dscalar('x')
y = T.dscalar('y')
z = x + y
f = function([x,y],z)
f(2,3) #array(5.)Est sortie.

(Extrait de http://deeplearning.net/software/theano/tutorial/adding.html#exercise)

Définissez les variables utilisées dans la fonction ci-dessous sur les 5ème et 6ème lignes, et créez la fonction sur les 7ème et 8ème lignes. Cela peut sembler un peu étrange avant de vous y habituer, mais une fois que vous vous y serez habitué, cela deviendra plus facile à écrire.

Écrivons le théorème des trois carrés en appliquant ceci.

x = T.dscalar('x')
y = T.dscalar('y')
Pythagoras = ( x**2 + y**2 )**(1/2)
length     = function([x,y],Pythagoras)
length(3,4) #5.0 est émis.

Différenciation automatique

Pour plus d'informations, lisez Wikipedia, mais vous pouvez calculer le différentiel de la fonction définie.

x = T.dscalar('x')

#y = sin(x) + cos(x)
y = T.sin(x) + T.cos(x)

#Signification de différencier y par rapport à x
gy = T.grad(cost=y, wrt=x)

f = function(inputs=[x], outputs=gy)

#Trouvez le coefficient différentiel en donnant un x concret
print (f(0))        #1.0
print (f(np.pi / 4))#1.1102230246251565e-16
print (f(np.pi))    #-1.0000000000000002

(Cet article a été utilisé comme référence. Cet article est recommandé car de nombreux autres exemples sont présentés.)

Aussi,

x = T.dscalar('x')
y = T.dscalar('y')
z =  T.sin(x) + T.cos(y)
#z = sin(x) + cos(y)

#Signification de différencier y par rapport à x
dx    = T.grad(cost=z, wrt=x)
dy    = T.grad(cost=z, wrt=y)
dz_dx = function(inputs=[x,y], outputs=dx)
dz_dy = function(inputs=[x,y], outputs=dy)
#Trouvez le coefficient différentiel en donnant un x concret
pi = math.pi
dz_dx(pi/2,pi/2) #array(6.123234e-17)
dz_dy(0,pi/2)    #array(-1.)

De cette manière, vous pouvez également calculer la différenciation de deux variables. Pourriez-vous comprendre comment l'utiliser?

Résumé

C'est une manière un peu spéciale d'écrire, mais une fois que je m'y suis habitué, j'ai trouvé que c'était étonnamment facile à écrire et à utiliser. Si j'ai le temps, j'aimerais écrire un article sur la mise en œuvre d'un réseau neuronal à l'aide de Thano. C'est la bibliothèque utilisée au début du Deep Learning, et je ne peux pas imaginer comment elle a évolué pour devenir une bibliothèque moderne. Étudiera

Les références

documentation theano http://deeplearning.net/software/theano/tutorial/adding.html#exercise

Un record d'intelligence artificielle http://aidiary.hatenablog.com/entry/20150518/1431954329

github https://github.com/Theano/Theano