Importance de l'apprentissage automatique et de l'apprentissage par mini-lots

introduction

Ceci est une note sur l'apprentissage par mini-lots dans l'apprentissage automatique. Il sert également d'explication intuitive de l'apprentissage automatique.

Qu'est-ce que l'apprentissage automatique?

L'apprentissage automatique est un dispositif informatique qui extrait automatiquement les règles censées être inhérentes à une donnée donnée. Autrement dit, lorsque la sortie $ \ boldsymbol {t} $ est déjà obtenue pour un certain ensemble d'entrées $ \ boldsymbol {x} $, un nouvel ensemble d'entrées $ \ est extrait en extrayant les règles qui y existent. Attendez-vous à $ \ boldsymbol {t} ^ {\ prime} $ correspondant au boldsymbol {x} ^ {\ prime} . cette**Règles**Ce qui sera(Poids appelé)Généralement une matriceWEnsuite, l'histoire ci-dessus est le résultat de l'apprentissage automatique\boldsymbol{y}(Idéalement\boldsymbol{t}Devrait correspondre)À$ \boldsymbol{y} = W \boldsymbol{x}\tag{1}$Quand\boldsymbol{y}Quand\boldsymbol{t}Fonction de perte obtenue à partir de$ L = \frac{1}{2}||\boldsymbol{y}(\boldsymbol{x},W)-\boldsymbol{t}||^{2}\tag{2}$À可能な限り小さくするようなW$À求めるQuandいうこQuandに置き換えられます。

Big data et apprentissage par mini-lots

Maintenant, supposons que vous récupériez le big data $ (\ boldsymbol {x} \ _ {n}, \ boldsymbol {t} \ _ {n}) $ ($ n = 1,2, \ cdots, N $) $ N $ est assez grand). Extrayez le poids $ W $ de ceci et prédisez la sortie $ \ boldsymbol {t} ^ {\ prime} $ appropriée pour l'entrée $ \ boldsymbol {x} \ ^ {\ prime} $ dont la sortie est inconnue. Par conséquent, l'erreur de somme des carrés pour tout $ \ boldsymbol {x} \ _ {n} $ $\frac{1}{N} \sum_{n=1}^{N}\|\|\boldsymbol{y}\_{n}(\boldsymbol{x}\_{n},W)-\boldsymbol{t}_{n} \|\|^{2} \tag{3}Aime minimiserW$Demander. Par exemple, il existe des méthodes telles que la méthode de descente de gradient.

L'ampleur du big data à laquelle nous sommes confrontésN(\gg 1)Donc même si c'est un ordinateurWCherchern=1DeNCe n'est pas une méthode judicieuse car la quantité de calcul sera énorme si le calcul différentiel est fait honnêtement. DoncNDeM (\ll N)Une seule donnée est extraite au hasard et contre cela$ \frac{1}{M} \sum_{m=1}^{M}\|\|\boldsymbol{y}\_{m}(\boldsymbol{x}\_{m},W)-\boldsymbol{t}_{m} \|\|^{2} \tag{4}En minimisant(3)Extrêmement efficace en ce qui concerne la méthode deWPeut être déterminé. Obtenu de cette manièreW$は、与えられた全てのデータDe求まったわけではありませんが、もとのデータのもつ規則の良い近似となっていることが多いです。このような学習手法をミニバッチ学習と呼びます。

Recommended Posts

Importance de l'apprentissage automatique et de l'apprentissage par mini-lots
Tournoi Numerai - Fusion de quants traditionnels et apprentissage automatique -
Bases de l'apprentissage automatique (mémoire)
Importance des ensembles de données d'apprentissage automatique
Apprentissage automatique et optimisation mathématique
Apprentissage automatique ③ Résumé de l'arbre de décision
Classification et régression dans l'apprentissage automatique
Apprentissage automatique
Organisez des plateformes d'apprentissage automatique et d'apprentissage en profondeur
Résumé des API recommandées pour l'intelligence artificielle, l'apprentissage automatique et l'IA
[Apprentissage automatique] OOB (Out-Of-Bag) et son ratio
Algorithme d'apprentissage automatique (généralisation de la régression linéaire)
Signification des modèles et paramètres d'apprentissage en profondeur
20 sélections recommandées en 2020 de livres d'introduction à l'apprentissage automatique
Algorithme d'apprentissage automatique (implémentation de la classification multi-classes)
Notes personnelles et liens sur l'apprentissage automatique ① (Machine learning)
Résumé de la classification et de la mise en œuvre des algorithmes d'apprentissage automatique
Créer un environnement pour Python et l'apprentissage automatique (macOS)
[Apprentissage automatique] Liste des packages fréquemment utilisés
"Tutoriels OpenCV-Python" et "Système d'apprentissage automatique pratique"
[Memo] Apprentissage automatique
Classification de l'apprentissage automatique
Procédure d'apprentissage automatique de base: ③ Comparez et examinez la méthode de sélection de la quantité de caractéristiques
Python: prétraitement en machine learning: gestion des données manquantes / aberrantes / déséquilibrées
Exemple d'apprentissage automatique
Mémo d'apprentissage automatique d'un ingénieur débutant Partie 1
Classification des images de guitare par apprentissage automatique Partie 1
Étudiez l'apprentissage automatique et l'informatique. Liste des ressources
Début de l'apprentissage automatique (matériel didactique / informations recommandés)
Apprentissage automatique du sport-Analyse de la J-League à titre d'exemple-②
Mémo d'étude Python & Machine Learning ⑤: Classification d'Ayame
Un mémorandum d'étude et de mise en œuvre du Deep Learning
Mémo d'étude Python & Machine Learning ②: Introduction de la bibliothèque
Divulgation complète des méthodes utilisées dans l'apprentissage automatique
Division des données de formation en apprentissage automatique et apprentissage / prédiction / vérification
Liste des liens que les débutants en apprentissage automatique apprennent
Apprentissage parallèle du deep learning par Keras et Kubernetes
Vue d'ensemble des techniques d'apprentissage automatique apprises grâce à scikit-learn
À propos du contenu de développement de l'apprentissage automatique (exemple)
Résumé des fonctions d'évaluation utilisées dans l'apprentissage automatique
Analyse de l'utilisation de l'espace partagé par l'apprentissage automatique
[Français] scikit-learn 0.18 Introduction de l'apprentissage automatique par le didacticiel scikit-learn
Mémo d'apprentissage automatique d'un ingénieur débutant Partie 2
Estimation raisonnable du prix de Mercari par apprentissage automatique
Classification des images de guitare par apprentissage automatique, partie 2
Touchons une partie de l'apprentissage automatique avec Python
Essayez d'utiliser le bloc-notes Jupyter à partir d'Azure Machine Learning
Disposition des éléments auto-mentionnés liés à l'apprentissage automatique
Raisonnement causal utilisant l'apprentissage automatique (organisation des méthodes de raisonnement causal)
Méthode d'évaluation du problème de régression d'apprentissage automatique (erreur quadratique moyenne et coefficient de décision)
[Pour les débutants en intelligence artificielle] Parcours d'apprentissage et de référence en apprentissage automatique / programmation en profondeur
Apprentissage automatique: reconnaissance d'image de MNIST à l'aide de PCA et de Gaussian Native Bayes
Prédire les travaux de courte durée de Weekly Shonen Jump par apprentissage automatique (Partie 2: Apprentissage et évaluation)
Liste des principales distributions de probabilité utilisées en apprentissage automatique et statistiques et code en python
Résumé du didacticiel d'apprentissage automatique
Apprentissage automatique avec Raspberry Pi 4 et Coral USB Accelerator
Points clés de «Machine learning avec Azure ML Studio»
Note d'apprentissage Python de Mayungo: liste d'histoires et de liens
Apprentissage automatique sur le surapprentissage