Deep Learning Java von Grund auf neu Kapitel 2 Perceptron

Inhaltsverzeichnis

• Kapitel 1 Einführung
• Kapitel 2 Perceptron
• Kapitel 3 Neuronales Netz
• Kapitel 4 Lernen neuronaler Netze
• Kapitel 5 Backpropagation-Methode
• Kapitel 6 Lerntechniken
• 6.1 Parameter aktualisieren
• 6.2 Anfangswert des Gewichts
  • 6.3 Batch Normalization
• 6.4 Regularisierung
• 6.5 Überprüfung der Hyperparameter
• Kapitel 7 Convolutional Neural Network
• Kapitel 8 Deep Learning
• Endlich

2.3 Implementierung von Perceptron

2.3.1 Einfache Implementierung

Perceptron kann als Funktion implementiert werden (statische Methode).

public static int AND(int x1, int x2) {
    double w1 = 0.5, w2 = 0.5, theta = 0.7;
    double tmp = x1 * w1 + x2 * w2;
    if (tmp <= theta)
        return 0;
    else
        return 1;
}

assertEquals(0, AND(0, 0));
assertEquals(0, AND(1, 0));
assertEquals(0, AND(0, 1));
assertEquals(1, AND(1, 1));

2.3.2 Einführung von Gewichten und Vorurteilen

Mit ND4J wird es wie folgt.

INDArray x = Nd4j.create(new double[] {0, 1});
INDArray w = Nd4j.create(new double[] {0.5, 0.5});
double b = -0.7;
assertEquals("[0.00,0.50]", Util.string(w.mul(x)));
assertEquals(0.5, w.mul(x).sumNumber().doubleValue(), 0.000005);
assertEquals(-0.19999999999999996, w.mul(x).sumNumber().doubleValue() + b, 0.000005);

2.3.3 Umsetzung nach Gewicht und Voreingenommenheit

Unter Verwendung der "Gewichts- und Vorspannungsmethode" können UND-, NDND- und ODER-Gatter wie folgt implementiert werden.

public static int AND2(int x1, int x2) {
    INDArray x = Nd4j.create(new double[] {x1, x2});
    INDArray w = Nd4j.create(new double[] {0.5, 0.5});
    double b = -0.7;
    double tmp = w.mul(x).sumNumber().doubleValue() + b;
    return tmp <= 0 ? 0 : 1;
}

public static int NAND(int x1, int x2) {
    INDArray x = Nd4j.create(new double[] {x1, x2});
    INDArray w = Nd4j.create(new double[] {-0.5, -0.5});
    double b = 0.7;
    double tmp = w.mul(x).sumNumber().doubleValue() + b;
    return tmp <= 0 ? 0 : 1;
}

public static int OR(int x1, int x2) {
    INDArray x = Nd4j.create(new double [] {x1, x2});
    INDArray w = Nd4j.create(new double[] {0.5, 0.5});
    double b = -0.2;
    double tmp = w.mul(x).sumNumber().doubleValue() + b;
    return tmp <= 0 ? 0 : 1;
}

assertEquals(0, AND2(0, 0));
assertEquals(0, AND2(1, 0));
assertEquals(0, AND2(0, 1));
assertEquals(1, AND2(1, 1));
assertEquals(1, NAND(0, 0));
assertEquals(1, NAND(1, 0));
assertEquals(1, NAND(0, 1));
assertEquals(0, NAND(1, 1));
assertEquals(0, OR(0, 0));
assertEquals(1, OR(1, 0));
assertEquals(1, OR(0, 1));
assertEquals(1, OR(1, 1));

2.5 Mehrschichtiges Perceptron

2.5.2 XOR-Gate-Implementierung

XOR-Gates können mithilfe mehrerer Perceptron-Schichten montiert werden.

public static int XOR(int x1, int x2) {
    int s1 = NAND(x1, x2);
    int s2 = OR(x1, x2);
    int y = AND2(s1, s2);
    return y;
}

assertEquals(0, XOR(0, 0));
assertEquals(1, XOR(1, 0));
assertEquals(1, XOR(0, 1));
assertEquals(0, XOR(1, 1));