Neuronale Netze und Matrixmultiplikation
Einführung in neuronale Netze
Das menschliche Nervensystem hat die Aufgabe, Reize aus der äußeren Umwelt und aus dem Körperinneren als Signale aufzunehmen, aufeinander zu beziehen und mit früheren zu vergleichen. Es besteht aus einer Vielzahl an einzelnen Nervenzellen, den sogenannten Neuronen, die zu einem neuronalen Netz verbunden sind.
Diesem biologischen Vorbild folgend, wurden künstliche neuronale Netze entwickelt, die Lernprozesse imitieren und so in vielfältigen Technologien durch maschinelles Lernen und weitere Aspekte der künstlichen Intelligenz Anwendung finden.
Ein künstliches neuronales Netzwerk besteht aus einzelnen künstlichen Neuronen, die auch als Knoten bezeichnet werden. Die Knoten sind miteinander verbunden und beeinflussen sich auf diese Weise wechselseitig.
Abb. 1: Veranschaulichung eines künstlichen neuronalen Netzwerks. Die Knoten sind entlang der einzelnen Schichten jeweils miteinander verbunden. (in Anl. an Dontsov, 2021)
Die erste Schicht des neuronalen Netzes erhält äußere Informationen; im menschlichen Nervensystem zum Beispiel durch Sinnesreize von Augen oder Ohren. Im künstlichen neuronalen Netz sind dies Parameter in Form von reellen Zahlen, die dann in den Knoten weiterverarbeitet werden. Das vereinfachte Modell in Abb. 1 ist dabei von links nach rechts zu verstehen. Von links kommen die Eingangssignale, die dann in der ersten Schicht verarbeitet werden und ein Ausgangssignal erzeugen. Das Ausgangssignal eines solchen Knotens hat dabei wiederum die Funktion des Eingangssignals in einem Knoten der darauffolgenden Schicht. Allerdings gibt es in der sog. „verborgenen“ Schicht nicht nur ein einzelnes Eingangssignal. Stattdessen erhält es Signale von allen Knoten aus der jeweils davorliegenden Schicht. Je größer das neuronale Netz, desto mehr Daten müssen verarbeitet werden. In Abb. 1 ist der Übersichtlichkeit halber ein recht kleines neuronales Netz dargestellt, in dem pro Schicht lediglich drei Knoten liegen. Für künstliche Intelligenz genutzte neuronale Netze haben eine weitaus höhere Anzahl an Knoten von teilweise mehreren Milliarden.
Die eingehenden Signale in Form von reellen Zahlen werden dabei zunächst addiert1 und ergeben in Summe das neue auszugebende Signal: 
(vgl. Abb. 2). 
Abb. 2: Detaillierte Darstellung der Verknüpfungen eines künstlichen neuronalen Netzwerks. Die Werte (
) der Eingangsschicht werden unterschiedlich gewichtet (
), um die Werte der nächsten Schicht (
) zu berechnen. (gemäß Rashid, 2017)
Allerdings würde sich auf diese Weise die gleiche Summe auch für
und
ergeben, was eine Unterscheidung der Knoten überflüssig werden ließe. Daher werden nicht alle Eingangssignale gleich berücksichtigt – auch im menschlichen Nervensystem werden die Signale unterschiedlich stark weitergeleitet. Im künstlichen neuronalen Netz wird dies mithilfe von sogenannten Gewichtungsfaktoren berücksichtigt: Je stärker die Verbindung zwischen den Neuronen, desto größer die Gewichtungsfaktoren. Die eingehenden Parameter
,
bzw.
werden jeweils noch mit einem solchen Gewichtungsfaktor
,
bzw.
multipliziert. Auf diese Weise kommt es zur Formel
, die für jeden Knoten in jeder Schicht ausgerechnet werden muss2.
1 In einem weiteren sehr wichtigen Schritt durchlaufen die resultierenden Summen anschließend eine sog. Aktivierungsfunktion, die im Rahmen dieses Arbeitsblattes nicht weiter thematisiert wird.
2 Im neuronalen Netzwerk kommt in dieser Formel auch noch ein zusätzlicher sog. Bias-Term vor, der im Rahmen dieses Arbeitsblatt nicht weiter thematisiert wird.
Quellenangaben:
Dontsov, A. (14. Dezember 2021). Was sind neuronale Netze und warum sind sie so wichtig?. Abgerufen am 13.04.2023 von https://nativdigital.com/neuronale-netze/
Rashid, T. (2017). Neuronale Netze selbst programmieren. O’Reilly, Heidelberg.