Kurz erklärt
Ein neuronales Netz besteht aus Schichten einfacher Recheneinheiten (Neuronen), die gewichtete Summen bilden und durch eine nichtlineare Funktion schicken. Backpropagation berechnet effizient, wie jedes Gewicht den Fehler beeinflusst.
Genauer
Eine Schicht rechnet y = f(W·x + b). Mehrere Schichten hintereinander können komplexe Zusammenhänge lernen. Beim Training läuft die Rechnung vorwärts (Vorhersage, Loss), dann wird der Fehler mit der Kettenregel rückwärts durch alle Schichten propagiert, um die Gradienten zu erhalten.