Implémenter le réseau neuronal à partir de zéro

Implémenter le réseau neuronal à partir de zéro

Aujourd'hui est une continuation d'hier, et j'ai essayé de créer un réseau neuronal par moi-même. Cliquez ici pour l'article d'hier

couler

Comme je l'ai écrit dans l'article d'hier, c'est comme assembler un certain nombre de régressions logistiques. Nous ajouterons plus de couches à ce que nous avons mis en œuvre jusqu'à présent.

Et le meilleur du réseau neuronal? L'important est la fonction d'activation.

Étant donné que le réseau neuronal imite les cellules nerveuses humaines, il se déclenche lorsqu'il est donné une valeur qui dépasse une certaine valeur standard. La fonction d'activation joue ce rôle.

code

day4.py Le biais devrait donc être bon.

Question

  1. Si la couche est décidée comme cette fois, vous pouvez écrire et calculer la formule différentielle, mais comment le réseau neuronal inclus dans sklearn et d'autres bibliothèques correspond-il au numéro d'entrée? Faites-vous des couches?
  2. Le biais aléatoire fonctionnait parfois, et parfois non. Comment puis-je faire fonctionner cela à presque 100%?

Concernant 1, je pense qu'il semble y avoir une méthode mathématique. En ce qui concerne 2, je pense que c'est ce que les gens du monde entier recherchent, et je pense qu'il y a des choses que les humains peuvent juger et que l'IA ne peut pas juger, donc si vous apprenez de la théorie, vous serez également intéressé par de telles choses. Je suis content de l'avoir eu et de partir de la théorie. Je vais enquêter davantage.

Le 4ème jour est terminé!

J'espère que demain je pourrai améliorer un peu plus la précision ou résoudre l'une des questions que j'ai écrites plus tôt.

Recommended Posts

Implémenter le réseau neuronal à partir de zéro
Implémenter un réseau neuronal convolutif
Implémenter un réseau neuronal à 3 couches
Réseau neuronal paramétrique
Expérience de réseau de neurones pliable
Implémentez un réseau de neurones feedforward dans Chainer pour classer les documents
[Deep Learning] Exécuter la console de réseau neuronal SONY à partir de CUI
Réseau de neurones avec Python (scikit-learn)
3. Distribution normale avec un réseau neuronal!
Réseau de neurones commençant par Chainer
Implémentation de réseau neuronal en python
Tutoriel sur le réseau neuronal (CNN) de Pytorch 1.3.1.
4. Entourez les paramètres avec un réseau neuronal!
Implémentation de réseau neuronal (NumPy uniquement)
Tutoriel TensorFlow - Réseau neuronal à convolution (traduction)
J'ai essayé de mettre en œuvre le modèle de base du réseau neuronal récurrent
Réseau de neurones pour comprendre et mettre en œuvre en mathématiques au secondaire
[Deep Learning from scratch] Implémentez le traitement de rétropropagation dans le réseau neuronal par la méthode de propagation de retour d'erreur
Implémentation simple d'un réseau neuronal à l'aide de Chainer
Réseau neuronal avec OpenCV 3 et Python 3
Implémentation d'un réseau de neurones à deux couches 2
Version Lua Apprentissage profond à partir de zéro Partie 6 [Traitement d'inférence de réseau neuronal]
Modèle de classification simple avec réseau neuronal
Qu'est-ce que le réseau neuronal convolutif?
[Deep Learning from scratch] À propos des couches requises pour implémenter le traitement de rétropropagation dans un réseau neuronal
[TensorFlow] [Keras] Construction d'un réseau neuronal avec Keras
J'ai essayé de mettre en œuvre un réseau de neurones à deux couches
Théorie et implémentation simples des réseaux neuronaux
Touchez l'objet du réseau neuronal
[Traitement du langage 100 coups 2020] Chapitre 8: Réseau neuronal
réseau
Prédiction des survivants à l'aide du réseau neuronal titanesque de Kaggle [80,8%]
Implémentation d'un réseau neuronal à 3 couches (pas d'apprentissage)
Essayez d'utiliser TensorFlow-Part 2-Convolution Neural Network (MNIST)
Persister le réseau de neurones construit avec PyBrain
Liste des travaux gagnants du défi de la console de réseau neuronal
Implémentation de réseaux neuronaux "flous" avec Chainer
Implémentation de réseau neuronal simple à l'aide de la préparation Chainer-Data-
Tutoriel [PyTorch] (version japonaise) ③ ~ NEURAL NETWORKS (Neural Network) ~
Mémo d'étude Python & Machine Learning ③: Réseau neuronal
Implémentation de réseau neuronal simple à l'aide de la description du modèle Chainer-
2. Écart moyen et standard avec le réseau neuronal!
[Chainer] Classification des documents par réseau de neurones convolutifs
Python vs Ruby "Deep Learning from scratch" Chapitre 3 Implémentation d'un réseau neuronal à 3 couches
[Deep Learning from scratch] Valeur initiale du poids du réseau neuronal utilisant la fonction sigmoïde