Mise en place d'un modèle de prédiction des taux de change (taux dollar-yen) par machine learning

Développer un algorithme de trading automatique d'échange d'IA et gagner du Gappori ~ ~ ~

C'est un rêve que tout le monde a. (Peut-être juste moi)

** Cette fois, nous avons construit un modèle de classification qui prédit si le taux dollar-yen augmentera, baissera ou restera le même dans une forêt aléatoire. ** **

Établissez d'abord une politique

Sélection d'un modèle de régression ou d'un modèle de classification → Faisons-en un modèle de classification

Tout d'abord, pourquoi avez-vous choisi le modèle de classification (c'est-à-dire la classification ternaire selon laquelle le taux augmente, diminue ou reste le même) au lieu du modèle de régression (c'est-à-dire le modèle qui estime le taux avec Don Pisha)? Il existe plusieurs raisons.

・ L'évaluation du modèle de classification est plus intuitive que celle du modèle de régression (cette fois, la matrice de confusion a été calculée). ・ Il n'y a que trois actions que les humains exécutent réellement dans fx (acheter, vendre, ne rien faire), n'est-ce pas bon pour la classification? ・ Random forest Je voulais juste l'implémenter.

C'est pourquoi j'ai choisi la prédiction de classification.

(Si vous y réfléchissez plus tard, le volume des transactions est également important dans le commerce de transit. Étant donné que le taux spécifique est important pour déterminer le volume des transactions, je me demande si un modèle de régression permettant de prédire le taux avec précision était meilleur Je me demande. Je réessayerai la prochaine fois.)

Que faire avec la quantité de fonctionnalités → Utilisons des indicateurs techniques

Que dois-je faire avec la quantité de fonctionnalités lors de la configuration d'un modèle de prédiction de taux pour fx? Ensuite, si vous pensez à ce que les humains utilisent réellement pour acheter et vendre des dollars et des yens, la quantité de fonctionnalités peut vous venir à l'esprit.

L'analyse que les humains effectuent lors du trading avec fx est grossièrement divisée en analyse technique et analyse fondamentale. L'analyse technique consiste à prédire les mouvements de prix en examinant ce que l'on appelle des graphiques. D'autre part, l'analyse fondamentale consiste à prédire les mouvements de prix à partir de l'actualité et des affaires mondiales.

Cette fois, nous utiliserons l'analyse technique, qui est facile à intégrer en tant que fonctionnalité d'apprentissage automatique. La raison pour laquelle il est facile d'importer est que l'analyse technique ne traite que des nombres et est facile à programmer.

D'un autre côté, si vous souhaitez incorporer des fondamentaux (comme le text mining), c'est difficile et les fondamentaux sont souvent utilisés pour acheter et vendre dans une perspective à long terme, nous ne les utiliserons donc pas.

base de données

Maintenant que la politique a été décidée, recherchons l'ensemble de données. Cette fois, nous avons utilisé les données quotidiennes des 20 dernières années sur investment.com. Environ 250 jours (les transactions fx sont uniquement en semaine) x 20 ans à 5000 données peuvent être collectées.

La mise en oeuvre! !! !!

1. Lire le fichier csv contenant les informations de taux

import pandas as pd
df = pd.read_csv("USD_JPY.csv")

2. Création de la quantité de caractéristiques (variable explicative)

Comme mentionné ci-dessus, cette fois, nous utiliserons la valeur numérique de l'analyse technique comme quantité de caractéristiques. Plus précisément, j'ai utilisé cinq des bandes SMA5, SMA20, RSI14, MACD et Bollinger (2σ). Veuillez google pour les caractéristiques détaillées de chaque indicateur technique. ** Cependant, lors de la sélection d'un index technique à utiliser comme quantité de caractéristiques, il est important de faire attention à ne pas analyser statistiquement mais à éviter autant que possible le multico (colinéarité multiple), donc technique qui ne se corrèle pas autant que possible. Veuillez sélectionner un index. ** **

Pour le calcul des indicateurs techniques, utilisez une bibliothèque appelée talib, ce qui est extrêmement pratique. Il calculera l'indice technique d'un seul coup.

Ici, les valeurs techniques sont utilisées telles quelles pour RSI et MACD, mais les valeurs pour SMA et Bollinger band ne le sont pas. (Par exemple, même si la valeur SMA est 105, elle ne convient pas comme quantité de caractéristiques car on ne sait pas si la valeur de 105 est élevée ou basse telle quelle.) Par conséquent, en divisant les valeurs de SMA et de bande de Bollinger par la valeur de close, nous les convertirons en valeurs relatives et comparables avant de les utiliser comme quantités de caractéristiques.

Je pense qu'il existe de nombreuses autres façons de le faire, alors essayez celles que vous préférez!


import talib as ta
import numpy as np

#Utilisez le taux de clôture pour tous les calculs ultérieurs
close = np.array(df["le dernier prix"])

#Créer un dataframe vide pour mettre les fonctionnalités
df_feature = pd.DataFrame(index=range(len(df)),columns=["SMA5/current", "SMA20/current","RSI","MACD","BBANDS+2σ","BBANDS-2σ"])

#Ci-dessous, l'indice technique (quantité de fonctionnalités utilisée dans cet apprentissage) est calculé en utilisant talib et df_caractéristique caractéristique

#La moyenne mobile simple utilise le rapport entre la valeur moyenne mobile simple et le cours de clôture de la journée en tant que quantité de caractéristiques.
df_feature["SMA5/current"]= ta.SMA(close, timeperiod=5) / close
df_feature["SMA20/current"]= ta.SMA(close, timeperiod=20) / close

#RSI
df_feature["RSI"] = ta.RSI(close, timeperiod=14)

#MACD
df_feature["MACD"], _ , _= ta.MACD(close, fastperiod=12, slowperiod=26, signalperiod=9)

#Bande de Bollinger
upper, middle, lower = ta.BBANDS(close, timeperiod=20, nbdevup=3, nbdevdn=3)
df_feature["BBANDS+2σ"] = upper / close
df_feature["BBANDS-2σ"] = lower / close

3. Création de données sur les enseignants (variable objective)

Comme mentionné ci-dessus, les données des enseignants pour ce modèle sont les trois valeurs [haut, bas et (presque) inchangé]. Par conséquent, les données des enseignants sont créées en utilisant le ratio ci-dessus dans les données téléchargées à partir de investment.com.

Les fonctions spécifiques utilisées pour le créer sont les suivantes.

def classify(x):
#Par rapport à la veille-0.2%Groupe 0 si
    if x <= -0.2:
        return 0
#Par rapport à la veille, 0.2%<x<0.2%Puis groupe 1
    elif -0.2 < x < 0.2:
        return 1
#Par rapport à la veille, 0.2%Groupe 2 ci-dessus
    elif 0.2 <= x:
        return 2

Pourquoi avez-vous divisé la veille par -0,2% et 0,2%?

・ 100 (yen / dollar) x 0,002 = 0,2 (yen / dollar) = 20 pips, et j'ai pensé que cette valeur était appropriée comme valeur pour juger si le taux bougeait. ** ・ En divisant la veille en trois groupes de -0,2% et 0,2%, les données seront presque pour le moment. (Figure ci-dessous) ** スクリーンショット 2020-07-29 22.20.33.png

À partir de la gauche, il s'agit du nombre de données du groupe 0, du groupe 1 et du groupe 2. Il est divisé presque également. Il est très important d'utiliser une forêt aléatoire pour que les classes de données sur les enseignants soient uniformément réparties. (Bien sûr, vous pouvez le faire même si les classes ne sont pas également réparties, mais vous devez le pondérer. Pour plus de détails, cet article est facile à comprendre. .)

Faites attention à ce qui précède et créez des données sur les enseignants.

df["Le ratio de la veille_float"] = df["Le ratio de la veille%"].apply(lambda x: float(x.replace("%", "")))

#Le ratio de la veille%Comment classer. Divisez les échantillons de chaque classe aussi égaux que possible
def classify(x):
    if x <= -0.2:
        return 0
    elif -0.2 < x < 0.2:
        return 1
    elif 0.2 <= x:
        return 2
    

df["Le ratio de la veille_classified"] = df["Le ratio de la veille_float"].apply(lambda x: classify(x))

#Décalez les données que vous voulez être enseignant d'un jour (je pense que vous pouvez les comprendre si vous pensez à la signification)
df_y = df["Le ratio de la veille_classified"].shift()

4. Quantité de fonctionnalités et données sur les enseignants terminées!

Faites un peu de traitement. Par exemple, si vous utilisez SMA5 pour calculer le montant de la fonction, la valeur sera NaN pendant les 4 premiers jours. (Parce qu'il faut au moins 5 jours de données pour calculer la moyenne sur 5 jours) Comme vous pouvez le voir, NaN est inclus au début des données de fonctionnalité, nous allons donc le supprimer.

df_xy = pd.concat([df_feature, df_y], axis=1)
df_xy = df_xy.dropna(how="any")

Ceci termine le prétraitement. Puisqu'une forêt aléatoire est utilisée cette fois, la normalisation / standardisation n'est pas nécessaire.

5. Apprentissage de modèle!

Tout ce que vous avez à faire est d'apprendre. Il peut être intéressant d'expérimenter en modifiant les paramètres de la forêt aléatoire ... Les hyper paramètres de la forêt aléatoire sont faciles à comprendre dans cet article.

De plus, les hyper paramètres ont été optimisés à l'aide d'Optuna. Lorsque vous utilisez optuna, sachez que la fonction objectif est définie pour renvoyer ce que vous souhaitez minimiser.

from sklearn.model_selection import train_test_split
from sklearn.ensemble import RandomForestClassifier
from sklearn.metrics import accuracy_score
import optuna

X_train, X_test, Y_train, Y_test = train_test_split(df_xy[["SMA5/current", "SMA20/current","RSI","MACD","BBANDS+2σ","BBANDS-2σ"]],df_xy["Le ratio de la veille_classified"], train_size=0.8)

def objective(trial):
    min_samples_split = trial.suggest_int("min_samples_split", 2,16)
    max_leaf_nodes = int(trial.suggest_discrete_uniform("max_leaf_nodes", 4,64,4))
    criterion = trial.suggest_categorical("criterion", ["gini", "entropy"])
    n_estimators = int(trial.suggest_discrete_uniform("n_estimators", 50,500,50))
    max_depth = trial.suggest_int("max_depth", 3,10)
    clf = RandomForestClassifier(random_state=1, n_estimators = n_estimators, max_leaf_nodes = max_leaf_nodes, max_depth=max_depth, max_features=None,criterion=criterion,min_samples_split=min_samples_split)
    clf.fit(X_train, Y_train)
    return 1 - accuracy_score(Y_test, clf.predict(X_test))

study = optuna.create_study()
study.optimize(objective, n_trials=100)

print(1-study.best_value)
print(study.best_params)

La précision lorsque les hyper paramètres sont optimisés est

0.6335025380710659 Puisqu'il s'agit d'une classification à trois valeurs, je pense que c'est un assez bon résultat. C'est environ deux fois plus bon que lorsque vous le sélectionnez au hasard.

Si le mouvement des prix est prédit avec 60% de chances, la valeur attendue sera positive même si vous considérez le spread!

Considérez une matrice de confusion de classification multiclasse! スクリーンショット 2020-07-30 13.32.40.png

Afin de réaliser un profit avec Fx, il est souhaitable que le rapport de ① et ⑨ soit élevé. En regardant la matrice de confusion, 1 + 9 = 48,9%, ce qui représente près de la moitié. En outre, ce que vous voulez éviter le plus, ce sont les modèles ③ et ⑦ (le modèle que vous aviez prévu d'augmenter mais qui a en fait diminué, et le modèle que vous avez prévu de diminuer mais qui a augmenté). Ces deux valeurs sont assez faibles de ③ + ⑦ = 7,3%.

** À partir des considérations ci-dessus, nous pouvons voir que le modèle appris cette fois peut être rentable. ** **

De plus, l'hyper paramètre lorsque la précision est maximisée est

{'min_samples_split': 8,
 'max_leaf_nodes': 40.0,
 'criterion': 'entropy',
 'n_estimators': 310.0,
 'max_depth': 7}

était. La relation entre les hyperparamètres et la précision est la suivante. スクリーンショット 2020-07-30 11.45.56.png

(* Notez que subjectif_value = 1 --accuracy! (Spécifications Optuna))

La couleur plus claire de la figure ci-dessus est la plus grande précision. Certes, on peut lire que max_depth est d'environ 7, max_leaf_nodes est d'environ 30 à 40 et n_estimators est d'environ 300.

Postscript: Autres expériences

Jusqu'à présent, nous avons classé trois valeurs, mais classons-les en deux valeurs, augmentation ou diminution du taux.

Ne modifiez que 3. la fonction de classification pour la création des données des enseignants.

def classify(x):
    if x <= 0:
        return 0
    else:
        return 1

Si vous construisez un modèle de la même manière et optimisez les hyper paramètres avec optuna ...

accuracy=0.7766497461928934

** Je suis aussi très riche avec ça (yeux blancs)! ** **

De cette façon, il peut être intéressant non seulement de changer la méthode de division des données, mais aussi de jouer avec les indicateurs techniques utilisés!

Recommended Posts

Mise en place d'un modèle de prédiction des taux de change (taux dollar-yen) par machine learning
Une méthode concrète pour prédire les courses de chevaux et simuler le taux de récupération par apprentissage automatique
Un exemple de mécanisme qui renvoie une prédiction par HTTP à partir du résultat de l'apprentissage automatique
À propos des tests dans la mise en œuvre de modèles d'apprentissage automatique
Prédire la présence ou l'absence d'infidélité par l'apprentissage automatique
Essayez d'évaluer les performances du modèle d'apprentissage automatique / de classification
J'ai créé une API avec Docker qui renvoie la valeur prédite du modèle d'apprentissage automatique
Analyse inverse du modèle d'apprentissage automatique
Une histoire coincée avec l'installation de la bibliothèque de machine learning JAX
Mémorandum of scraping & machine learning [technique de développement] par Python (chapitre 4)
Essayez de faire une stratégie de blackjack en renforçant l'apprentissage ((1) Implémentation du blackjack)
Mémorandum of scraping & machine learning [technique de développement] par Python (chapitre 5)
Évaluer la précision du modèle d'apprentissage par test croisé de scikit learn
J'ai essayé d'appeler l'API de prédiction du modèle d'apprentissage automatique de WordPress
Othello-De la troisième ligne de "Implementation Deep Learning" (3)
Algorithme d'apprentissage automatique (implémentation de la classification multi-classes)
Implémenter un modèle avec état et comportement (3) - Exemple d'implémentation par décorateur
Mémo d'apprentissage Python pour l'apprentissage automatique par Chainer jusqu'à la fin du chapitre 2
Déterminez l'authenticité des articles publiés par machine learning (API Google Prediction).
Othello-De la troisième ligne de "Implementation Deep Learning" (2)
Version gratuite de DataRobot! ?? Introduction à «PyCaret», une bibliothèque qui automatise l'apprentissage automatique
Une histoire sur l'obtention d'un taux de récupération des courses de chevaux de plus de 100% grâce à l'apprentissage automatique
Créez un environnement python pour apprendre la théorie et la mise en œuvre de l'apprentissage profond
J'ai essayé de prédire la présence ou l'absence de neige par apprentissage automatique.
Création d'un modèle d'estimation de position pour la compétition d'intelligence humaine de loup à l'aide de l'apprentissage automatique
[Apprentissage automatique] Créez un modèle d'apprentissage automatique en effectuant un apprentissage par transfert avec votre propre ensemble de données
Un modèle qui identifie la guitare avec fast.ai
Mémo d'apprentissage automatique d'un ingénieur débutant Partie 1
Un ensemble d'entiers qui satisfait ax + by = 1.
Classification des images de guitare par apprentissage automatique Partie 1
Liste des liens que les débutants en apprentissage automatique apprennent
À propos du contenu de développement de l'apprentissage automatique (exemple)
Classer les informations liées à l'apprentissage automatique par modèle de sujet
Amélioration de la metrix de performance par modèle d'apprentissage en 2 étapes
Analyse de l'utilisation de l'espace partagé par l'apprentissage automatique
Mémo d'apprentissage automatique d'un ingénieur débutant Partie 2
Estimation raisonnable du prix de Mercari par apprentissage automatique
Classification des images de guitare par apprentissage automatique, partie 2
Touchons une partie de l'apprentissage automatique avec Python
Implémentation du modèle Deep Learning pour la reconnaissance d'images
Apprentissage profond appris par mise en œuvre (segmentation) ~ Mise en œuvre de SegNet ~
Histoire de l'analyse de données par apprentissage automatique
J'ai essayé "Lobe" qui peut facilement entraîner le modèle d'apprentissage automatique publié par Microsoft.
Code simple qui donne un score de 0,81339 dans Kaggle's Titanic: Machine Learning from Disaster
[Python] Implémentation du clustering à l'aide d'un modèle gaussien mixte
Une histoire qui réduit l'effort de fonctionnement / maintenance
[Python] Un programme qui compte le nombre de vallées
J'ai créé une application Twitter qui identifie et enregistre l'image d'un personnage spécifique sur la chronologie de Twitter par pytorch transfer learning
Comptez le nombre de paramètres dans le modèle d'apprentissage en profondeur
À propos du prétraitement des données des systèmes utilisant l'apprentissage automatique
Impressions d'avoir obtenu le nano-diplôme Udacity Machine Learning Engineer
Créez un BOT qui raccourcit l'URL Discord
Implémentation python de la classe de régression linéaire bayésienne
#Une fonction qui renvoie le code de caractère d'une chaîne de caractères
Prédire le sexe des utilisateurs de Twitter grâce à l'apprentissage automatique
Othello ~ De la troisième ligne de "Implementation Deep Learning" (4) [Fin]
Procédure de génération et d'enregistrement d'un modèle d'apprentissage par machine learning, en faisant un serveur API et en communiquant avec JSON depuis un navigateur
Générer cette forme du fond d'une bouteille pour animaux de compagnie
Résumé du flux de base de l'apprentissage automatique avec Python
Bilan du premier défi du machine learning avec Keras