Nach der kurzen Wiederholung sowie dem Exkurs gehen wir nun darauf ein, welche Parameter der Trainingsphase darüber entscheiden, wie gut ein neuronales Netz trainiert wird, d.h., wie viel Prozent der Testdaten anschließend korrekt klassifiziert werden. Dazu solltest du wissen:

Bestenfalls ist zu erwarten, dass in jedem Iterationsschritt die Lösung ein klein wenig besser wird, d.h., dass die Gewichte und Schwellwerte von Schritt zu Schritt ein klein wenig geeigneter gewählt werden. Allerdings werden zwischenzeitlich bewusst auch kleine Verschlechterungen in Kauf genommen, da somit das Endergebnis durchaus verbessert werden kann.

Eine Analyse dazu zeigt die folgende Abbildung (anhand des Klassifikationsproblems wie in der Wiederholung beschrieben und samt einer Testmenge bestehend aus 2000 Punkten):

Dargestellt ist die Anzahl der korrekt klassifizierten Testdaten in Abhängigkeit der Anzahl der Iterationen der Trainingsphase. Dabei wurde die Trainingsphase dreimal durchgeführt, jeweils mit einem unterschiedlichen Layout des neuronalen Netzes:

Das beste Ergebnis erhalten wir beim neuronalen Netz zum Layout [2,8,8,3]. Nach ungefähr 10.000 Iterationen werden hier rund 95 Prozent der Testdaten korrekt klassifiziert.

Ein weiteres Ergebnis der Analyse ist folgendes: Je mehr Gewichte und Schwellwerte es zu bestimmen gilt (abhängig vom Layout des neuronalen Netzes), desto mehr Iterationen sollten während der Trainingsphase durchgeführt werden. Dabei sollte jedoch nicht vernachlässigt werden, dass sowohl bei einer größeren Anzahl an Iterationen als auch bei einer größeren Anzahl an Neuronen die Rechenzeit (also die Zeit zur Durchführung der Trainingsphase) signifikant zunimmt.