À propos du fait que softmax n'est pas nécessaire à la fin du modèle de Torchvision.

Contexte

Comme vous pouvez le voir dans le code ci-dessous, la couche finale est Liner et n'inclut pas la couche softmax. https://github.com/pytorch/vision/blob/master/torchvision/models/vgg.py

J'ai pensé: "Eh bien, est-ce que ça va?"

Raison

Tout était écrit ci-dessous. https://discuss.pytorch.org/t/torchvision-models-dont-have-softmax-layer/18071

Au moment de l'apprentissage, nn.CrossEntoropyLoss () est utilisé, mais ce n'est pas nécessaire car il se compose de nn.LogSoftmax et nn.NLLLoss..

Lors de la déduction, si vous voulez la probabilité de chaque classe, vous avez besoin de nn.functional.softmax (), mais si vous voulez prédire, vous pouvez omettre l'idx de la plus grande valeur dans torch.max etc.

Au moment de la classification des classes, je pensais que la couche finale était softmax en raison de la mort cérébrale, mais si j'y réfléchis attentivement, elle n'est nécessaire que pour le calcul de la perte, alors j'ai pensé «je vois».

Recommended Posts

À propos du fait que softmax n'est pas nécessaire à la fin du modèle de Torchvision.
À propos du fait que le contenu de l'impression Python n'est pas visible dans les journaux du docker
Grep pour que grep n'apparaisse pas au moment de grep
Décorateur qui affiche "Nom de la méthode FIN" à la fin de la méthode
À propos du problème que nosetests ne passe pas lorsque __init__.py est créé dans le répertoire du projet
Cours de base Python (à la fin de 15)
Il semble que la version de pyflakes ne soit pas la dernière lorsque flake8 est installé
À propos du problème que la version python de Google App Engine ne maille pas
À propos de la question qui s'inquiétait de l'erreur d'échantillonnage
La valeur de pyTorch torch.var () n'est pas distribuée
Envoyer Gmail à la fin du processus [Python]
Supprimer une chaîne spécifique à la fin de python
À propos de «RuntimeWarning: la version Django de l'instance de modèle Pickled n'est pas spécifiée»
À propos du fait que le résumé de la torche peut être vraiment utilisé lors de la construction d'un modèle avec Pytorch
Le résultat de l'analyse de la "critique du jugement" de Kant que je n'ai pas lu du tout était intéressant