In allen folgenden Betrachtungen wählen wir eine schematisch vereinfachte Darstellung neuronaler Netze: Die Gewichte sind nun Pfeilen zugeordnet und die Schwellwerte beziehen sich wie gehabt auf die Neuronen bzw. Knoten des Netzwerks:
An der zuvor eingeführten Rechenvorschrift ändert die vereinfachte Darstellung natürlich nichts. Zudem hält uns auch nichts davon ab, deutlich komplexere neuronale Netze aufzubauen:
Obwohl es auch andere Möglichkeiten gibt, untersuchen wir nur Netzwerke mit folgender Eigenschaft:
Wir untersuchen nur künstliche neuronale Netze, bei denen die Neuronen spaltenweise aufgebaut sind, in den sogenannten Schichten. Die Eingangsneuronen ganz links befinden sich in der Eingangsschicht, die Ausgangsneuronen ganz rechts in der Ausgangsschicht. Zwischen zwei aufeinanderfolgenden Schichten sind alle Neuronen miteinander verbunden.
Alle Schichten zwischen Eingangs- und Ausgangsschicht werden auch als verborgene Schichten bezeichnet. Aber auch bei beliebig komplexen Netzen gilt weiterhin:
Sind in einem künstlichen neuronalen Netz sämtliche Gewichte und Schwellwerte bekannt und sind die Zustände bzw. Werte der Eingangsneuronen gegeben, so können auch die Zustände bzw. Werte der Ausgangsneuronen bestimmt werden.
Dabei ist jedoch zu beachten:
Die Zustände bzw. Werte der Neuronen werden iterativ (d.h. nacheinander in festgelegter Reihenfolge) bestimmt: Vorgegangen wird spalten- bzw. schichtweise von links nach rechts.
Dies bedeutet bezogen auf die Abbildung zuvor, dass zunächst die drei Neuronen in der mittleren Spalte in Abhängigkeit der Eingangsneuronen zu bestimmen sind. Erst anschließend können die beiden Ausgangsneuronen ganz rechts bestimmt werden.
Die Werte der Neuronen der Eingangsschicht bezeichnen wir zusammengefasst als Eingangssignal und die Werte der Neuronen der Ausgangsschicht entsprechend als Ausgangssignal.