Le réseau après VGG progresse-t-il vraiment? L'histoire

1.Tout d'abord

Dans cet article, [les compétitions d'IA ne produisent pas de modèles utiles](https://lukeoakdenrayner.wordpress.com/2019/09/19/ai-competitions-dont-produce-useful-models/?utm_campaign=piqcy&utm_medium=email&utm_source=Revue Le problème récent de l'architecture réseau, défini dans% 20newsletter), ne fait-il pas que surentraîner l'ensemble de données et surpasser le jeu de la chance? Le but est d'étudier l'histoire avec l'ensemble de données du fond d'œil grand angle [^ 1]. Aussi, pour les débutants, j'expliquerai comment effectuer un virage fin à partir des poids entraînés d'ImageNet [^ 2] en utilisant le réseau implémenté dans tf.keras.

Tout le code

2. Environnement

• Spécifications du PC
• CPU: Intel Core i9-9900K
• RAM: 16GB
• GPU: NVIDIA GeForce GTX 1080 Ti
• Bibliothèque
• Python: 3.7.4
• matplotlib: 3.1.1
• pandas: 0.25.1
• tqdm: 4.31.1
• pillow: 6.1.0
• scikit-learn: 0.21.3
• tensorflow-gpu: 2.0.0

3. AI competitions don’t produce useful models [Article (Les compétitions d'IA ne produisent pas de modèles utiles)](https://lukeoakdenrayner.wordpress.com/2019/09/19/ai-competitions-dont-produce-useful-models/?utm_campaign=piqcy&utm_medium=email&utm_source=Revue Ceci est un aperçu de la newsletter% 20). Dans la compétition d'apprentissage automatique, les résultats finaux des données de test ne sont pas ouverts, de sorte que le modèle ne peut être évalué qu'une seule fois. Cela rend impossible la modélisation de gasha. Il semble que cette mesure fonctionne car elle ne peut être évaluée qu'une seule fois par équipe. Cependant, ce n'est pas le cas lorsqu'on regarde la concurrence dans son ensemble. Par exemple, si 100 équipes participent, cela signifie qu'elles font du gasha modèle 100 fois. L'équipe gagnante a eu la chance de battre ce Gasha, mais pas la meilleure méthode. De plus, les résultats des meilleures équipes sont en compétition dans certaines compétitions. Lorsque le test de différence significative est effectué, les résultats des meilleures équipes ne sont que des erreurs, et une plus grande quantité de données de test doit être préparée pour faire une différence significative. Il semble que la précision s'est améliorée jusqu'à VGG, mais il est douteux après cela, et il est possible que cela ne fasse que surentraîner les données de test.

Cette fois, en utilisant le jeu de données du fond d'œil grand angle [^ 1], VGG16 [^ 3], DenseNet121 [^ 4], ResNet50 [^ 5], InceptionV3 [^ 6], NASNetMobile [^ 7], EfficientNet-B0 [^ 8] ] Évaluation des performances pour savoir si le réseau après VGG16 s'améliore vraiment.

4. Ensemble de données et fractionnement des données du fond d'œil

Veuillez vous référer à cet Article (Classification des images par jeu de données d'image du fond de l'œil grand angle) pour l'explication de l'ensemble de données du fond de l'œil grand angle et comment les données ont été divisées. ..

5. Construction et apprentissage de modèles

Ce chapitre décrit comment effectuer un virage fin avec le modèle entraîné de Réseau implémenté et ImageNet [^ 2] pour commencer. À propos, le tournage fin * ne contribue pas à l'amélioration de la précision car le domaine de l'image est trop différent de celui d'ImageNet dans le jeu de données du fond d'œil grand angle, mais il contribue à l'amélioration de la vitesse de convergence. Pour plus de détails, voir [Article (Efficacité du transfert de l'apprentissage aux images médicales)](https://speakerdeck.com/uchi_k/lun-wen-shao-jie-yi-yong-hua-xiang-hefalsezhuan-yi- xue-xi-falseyou-xiao-xing-nituite-transfusion-comprehension-transfer-learning-for-medical-imaging). Modifiez la partie de construction du modèle à partir de cet Article (Classification des images par jeu de données d'image du fond d'œil grand angle). Le paramètre d'apprentissage a changé le taux d'apprentissage à "0,00001". Tout d'abord, «importez» la bibliothèque.

from tensorflow.keras.applications import VGG16
from tensorflow.keras.models import Model
from tensorflow.keras.layers import Dense, Activation

Ensuite, construisez le réseau. Cette fois, je vais vous expliquer en utilisant VGG16 comme exemple. Commencez par charger VGG16 comme modèle de base. Cette fois, le but est de tourner finement à partir des poids entraînés d'ImageNet [^ 2], alors construisez un réseau jusqu'à la couche de convolution finale avec ʻinclude_top = False, et apprenez ImageNet [^ 2] avec weights = 'imagenet'`. Lisez les poids finis. Ensuite, de la même manière que Article (Classification des images par jeu de données d'image du fond de l'œil grand angle), combinez-le avec la couche entièrement connectée chargée VGG16.

base_model = VGG16(include_top=False, weights='imagenet', pooling='avg',
                   input_shape=(image_size[0], image_size[1], 3))
x = Dense(256, kernel_initializer='he_normal')(base_model.output)
x = Dense(classes, kernel_initializer='he_normal')(x)
outputs = Activation('softmax')(x)
model = Model(inputs=base_model.inputs, outputs=outputs)

Si vous utilisez un autre réseau, par exemple ResNet50, vous pouvez l'utiliser en remplaçant «VGG16» par «ResNet50». Un exemple de code pour d'autres réseaux est téléchargé ici [https://github.com/burokoron/StaDeep/tree/master/fine-turning). Au fait, EfficientNet-B0 n'a pas été publié, mais il a été implémenté, donc keras-team / keras-applications'efficnet.py sur GitHub. J'ai téléchargé et utilisé applications / blob / master / keras_applications / coefficientnet.py).

Les résultats d'apprentissage sont les suivants. NASNetMobile [^ 7] est le seul à ne pas présenter de divergence entre la perte d'apprentissage et la perte de vérification. Bien que l'accréditation soit divergente. EfficientNet-B0 [^ 8] Est-ce vraiment beau car il n'y a que le dernier modèle? est.

6. Évaluation

L'évaluation a été réalisée en utilisant la valeur F de la même manière que cet Article (Classification des images par jeu de données d'image du fond d'œil grand angle). Les résultats sont montrés plus bas.

<détails>

# VGG16
              precision    recall  f1-score   support

         AMD       0.28      0.53      0.37        75
       DR_DM       0.81      0.75      0.78       620
         Gla       0.73      0.76      0.74       459
          MH       0.12      0.22      0.16        32
      Normal       0.75      0.75      0.75       871
          RD       0.93      0.77      0.84       176
          RP       0.91      0.78      0.84        50
         RVO       0.84      0.60      0.70       107

    accuracy                           0.73      2390
   macro avg       0.67      0.65      0.65      2390
weighted avg       0.76      0.73      0.74      2390

# ResNet50
              precision    recall  f1-score   support

         AMD       0.26      0.56      0.36        75
       DR_DM       0.95      0.61      0.74       620
         Gla       0.78      0.61      0.68       459
          MH       0.30      0.25      0.27        32
      Normal       0.64      0.84      0.73       871
          RD       0.85      0.85      0.85       176
          RP       0.64      0.88      0.74        50
         RVO       0.85      0.57      0.68       107

    accuracy                           0.71      2390
   macro avg       0.66      0.65      0.63      2390
weighted avg       0.76      0.71      0.71      2390

# InceptionV3
              precision    recall  f1-score   support

         AMD       0.28      0.53      0.37        75
       DR_DM       0.84      0.68      0.75       620
         Gla       0.74      0.68      0.71       459
          MH       0.29      0.16      0.20        32
      Normal       0.69      0.81      0.74       871
          RD       0.91      0.80      0.85       176
          RP       0.83      0.76      0.79        50
         RVO       0.64      0.52      0.57       107

    accuracy                           0.72      2390
   macro avg       0.65      0.62      0.62      2390
weighted avg       0.74      0.72      0.72      2390

# DenseNet121
              precision    recall  f1-score   support

         AMD       0.25      0.60      0.36        75
       DR_DM       0.94      0.66      0.78       620
         Gla       0.82      0.58      0.68       459
          MH       0.45      0.16      0.23        32
      Normal       0.65      0.87      0.74       871
          RD       0.94      0.82      0.88       176
          RP       0.98      0.86      0.91        50
         RVO       0.91      0.64      0.75       107

    accuracy                           0.73      2390
   macro avg       0.74      0.65      0.67      2390
weighted avg       0.78      0.73      0.73      2390

# NASNetMobile
              precision    recall  f1-score   support

         AMD       0.25      0.52      0.34        75
       DR_DM       0.84      0.66      0.74       620
         Gla       0.59      0.81      0.69       459
          MH       0.16      0.22      0.18        32
      Normal       0.72      0.70      0.71       871
          RD       0.94      0.76      0.84       176
          RP       0.94      0.60      0.73        50
         RVO       0.75      0.43      0.55       107

    accuracy                           0.69      2390
   macro avg       0.65      0.59      0.60      2390
weighted avg       0.73      0.69      0.70      2390

# EfficientNet-B0
              precision    recall  f1-score   support

         AMD       0.32      0.44      0.37        75
       DR_DM       0.94      0.60      0.73       620
         Gla       0.79      0.57      0.66       459
          MH       0.21      0.38      0.27        32
      Normal       0.63      0.88      0.73       871
          RD       0.94      0.85      0.89       176
          RP       0.80      0.80      0.80        50
         RVO       0.83      0.56      0.67       107

    accuracy                           0.71      2390
   macro avg       0.68      0.63      0.64      2390
weighted avg       0.76      0.71      0.71      2390