Neuronale Netze und Matrixmultiplikation

Im vorherigen kleinen Beispiel mag das Erstellen der Formeln und deren Berechnung vielleicht noch eine schaffbare Aufgabe sein, doch mit einer wachsenden Zahl an Knoten und Schichten (teilweise mehrere Milliarden innerhalb eines neuronalen Netzes) wird es immer komplizierter. Dies führt irgendwann zu Rechnungen, die kaum noch mit überschaubarem Aufwand zu bewältigen sind – oder doch?

Computer sind äußerst effiziente Rechenmaschinen, die fest vorgegebene Rechenstrukturen und wiederkehrende Rechenprinzipien schnell und fehlerfrei berechnen können. Ein weiterer Vorteil ist, dass sich die hier vorgenommenen Rechnungen über einen einzigen Rechenschritt zusammenfassen lassen, der von fast allen Computersprachen bereits beherrscht wird, ohne dass eine neue Rechenvorschrift vorgegeben werden muss: Die Matrixmultiplikation.

Die von der ersten Schicht a ausgehenden Werte lassen sich als Vektor zusammenfassen, wobei. Die Gewichtungsfaktoren hingegen lassen sich als Matrix darstellen: 

Multipliziert man eine Matrix mit einem Vektor (), so wird jeweils eine Zeile der Matrix mit den Einträgen des Vektors multipliziert und die Ergebnisse addiert. Es ergibt sich also der folgende Ergebnisvektor: 

Stellen Sie einen Bezug zwischen den Zeilen des Vektors