Viele moderne Verfahren und Algorithmen haben sich Vorgänge in der Natur zum Vorbild genommen und dies gilt auch für künstliche neuronale Netze. Daher werden wir in aller Kürze vorstellen (bzw. aus dem Biologieunterricht wiederholen), was Neuronen und neuronale Netze sind.

Das Nervensystem besteht aus unzähligen Nervenzellen, welche auch als Neuronen bezeichnet werden. Einzelne Nervenzellen sind auf die Erregungsleitung bzw. Erregungsübertragung spezialisiert: Genauer gesagt können Nervenzellen über die Dentriten aktiviert werden. Falls dies der Fall ist, so wird über das Axon ein elektrischer Impuls an alle Synapsen der Zelle übertragen. Die Synapsen sind wiederum mit Dendriten weiterer Nervenzellen verbunden, sodass sich ein großes Netzwerk von Nervenzellen bildet. Dieses nennt man neuronales Netz.

Die obige Abbildung zeigt den schematischen Aufbau eines neuronalen Netzes unterteilt in Wahrnehmung, Verarbeitung und Ergebnis. Ein konkretes Beispiel:

Stäbchen- bzw. Zapfenzellen sind Neuronen in der Netzhaut unserer Augen, welche der Wahrnehmung von Helligkeit bzw. Farben dienen.

Je nachdem, was wir gerade sehen, sind unterschiedliche dieser Neuronen aktiviert (bzw. nicht aktiviert). Diese Informationen werden über die Axone ins Gehirn weitergeleitet (gebündelt im Sehnerv). Im Gehirn findet anschließend die weitere Verarbeitung der Informationen in einem komplexen Netzwerk statt. Als Ergebnis erhalten wir eine Aussage darüber, was wir gerade sehen: Einen Schmetterling, einen Apfel oder sogar bestimmte Buchstaben und Zahlen.

Schritt für Schritt werden wir in den nachfolgenden Abschnitten zeigen, wie diese Vorgänge in unserem Gehirn algorithmisch nachgebildet werden können.