Hebb-Regel

Einer der einfachsten Lernregeln mit großer biologischer Plausibilität stammt vom Psychologen Donald Olding Hebb. In seinem Buch "The Organization of Behavior" aus dem Jahr 1949 formulierte der Kanadier die hebbsche Lernregel:

"Wenn ein Axon der Zelle A ... Zelle B erregt und wiederholt und dauerhaft zur Erzeugung von Aktionspotentialen in Zelle B beiträgt, so resultiert dies in Wachstumsprozessen oder metabolischen Veränderungen in einer oder in beiden Zellen, die bewirken, dass die Effizienz von Zelle A in bezug auf die Erzeugung eines Aktionspotentials in B größer wird." (S. 62, Übersetzung nach Kandel et al., 1995, S. 700)

Für unser Thema lässt sich die Hebb-Regel folgendermaßen formulieren:

Das Gewicht zwischen zwei Einheiten wird dann verändert, wenn beide Units gleichzeitig aktiv sind.

Die Größe der Gewichtsveränderung bemisst sich aufgrund dreier Werte:

• dem Aktivitätslevel (bzw. Output) der sendenden Unit a_j
• dem Aktivitätslevel (bzw. Output) der empfangenden Unit a_i
• einem vorher festgelegten, positiven Lernparameter

Als Formel ausgedrückt lautet die Hebb-Regel wie folgt: w_ij = a_i a_j